Το «κουμπί θανάτου» της τεχνητής νοημοσύνης ίσως πρέπει να γίνει υποχρεωτικό, λέει συνιδρυτής της Anthropic

Ένα «κουμπί θανάτου» της τεχνητής νοημοσύνης, το οποίο μπορεί να ελέγχεται από τρίτο μέρος, ίσως πρέπει να καταστεί υποχρεωτικό για τις εταιρείες, όπως δήλωσε στο BBC ένας συνιδρυτής μιας από τις μεγαλύτερες εταιρείες τεχνητής νοημοσύνης στον κόσμο.

Ο Τζακ Κλαρκ, ένας από τους επτά ιδρυτές της Anthropic, δήλωσε ότι η κοινωνία «ίσως θελήσει τελικά να θεσπίσει σχετικούς κανόνες» σχετικά με έναν τρόπο για την πλήρη απενεργοποίηση του λογισμικού τεχνητής νοημοσύνης, σε περίπτωση που αυτό καταστεί υπερβολικά επικίνδυνο.

Ο Κλαρκ ανέφερε ότι «τα περισσότερα εργαστήρια διαθέτουν διαφορετικούς τρόπους για να διακόψουν τη λειτουργία του συστήματος», συμπεριλαμβανομένης της Anthropic, αλλά πρόσθεσε ότι οι νομοθέτες ίσως χρειαστεί να επιβάλουν την ύπαρξη ενός τέτοιου μηχανισμού.

Η ραγδαία ανάπτυξη της τεχνητής νοημοσύνης και οι φόβοι για τους κινδύνους που ενέχει για την ανθρωπότητα έχουν βρεθεί στο επίκεντρο μετά από μια σειρά προειδοποιήσεων από στελέχη και προσωπικό εταιρειών τεχνητής νοημοσύνης.

Ορισμένοι έχουν δηλώσει δημοσίως ότι υπάρχει πιθανότητα η τεχνολογία αυτή, αν δεν ελεγχθεί, να σκοτώσει όλους τους ανθρώπους.

Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, ζήτησε το Σαββατοκύριακο να επιβραδυνθεί ο ρυθμός ανάπτυξης της τεχνητής νοημοσύνης και να παρακολουθείται πιο στενά, όπως έχει κάνει και η εταιρεία στο παρελθόν, αν και ορισμένοι έχουν αμφισβητήσει τα κίνητρα πίσω από αυτή την κίνηση.

Ο Αμοντέι πρόσθεσε ότι οποιαδήποτε ενέργεια για τον περιορισμό της ανάπτυξης της τεχνητής νοημοσύνης θα πρέπει να γίνεται «χωρίς να θυσιάζεται το εμπορικό πλεονέκτημα».

Ο Κλαρκ δήλωσε ότι οι λεπτομέρειες σχετικά με τις απαιτήσεις και την επαλήθευση του «διακόπτη απενεργοποίησης» θα πρέπει να αποτελούν μέρος της «ευρύτερης συζήτησης για την πολιτική» που διεξάγεται γύρω από την τεχνητή νοημοσύνη.

«Πρέπει να επιβάλλετε στις εταιρείες να διαθέτουν οπωσδήποτε έναν διακόπτη απενεργοποίησης; Είναι αυτός ο διακόπτης επαληθεύσιμος από τρίτο μέρος;», αναρωτήθηκε. «Πιστεύω ότι αυτό είναι το είδος των θεμάτων που η κοινωνία θα θέλει να γνωρίζει και για τα οποία ενδεχομένως θα θελήσει να θεσπίσει κανόνες στο μέλλον», επεσήμανε στο BBC.

Η Anthropic, η οποία ιδρύθηκε το 2021 από μια ομάδα πρώην υπαλλήλων της ανταγωνιστικής εταιρείας OpenAI, βρίσκεται επί του παρόντος στο επίκεντρο μιας συζήτησης σχετικά με την ασφάλεια της τεχνητής νοημοσύνης.

Την περασμένη εβδομάδα, μια ανάρτηση ενός ερευνητή τεχνητής νοημοσύνης, ο οποίος παραιτήθηκε από την Anthropic λόγω ανησυχιών ότι η τεχνητή νοημοσύνη θα μπορούσε να εξαφανίσει την ανθρωπότητα, έγινε viral.

Σε απάντηση, ο επιστήμονας της Anthropic, Έβαν Χούμπινγκερ, δήλωσε ότι προσωπικά θεωρούσε ότι η πιθανότητα εξαφάνισης της ανθρωπότητας από την τεχνητή νοημοσύνη ήταν «μεγαλύτερη από 10% μέσα στην επόμενη δεκαετία».

Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ

— Evan Hubinger (@EvanHub) September 9, 2026

Ο επιστήμονας πληροφορικής και κάτοχος του βραβείου Νόμπελ, Τζέφρι Χίντον, γνωστός ως ο «Νονός της Τεχνητής Νοημοσύνης», δήλωσε την Παρασκευή στο BBC ότι μια πιθανότητα 10% να σκοτώσει η τεχνητή νοημοσύνη όλους τους ανθρώπους «δεν είναι παράλογη».

Ο ίδιος και άλλοι με παρόμοιες ανησυχίες έχουν υποδείξει ότι η τεχνητή νοημοσύνη θα μπορούσε να το κάνει αυτό αναλαμβάνοντας τον έλεγχο σημαντικών συστημάτων που είναι συνδεδεμένα στο διαδίκτυο και στρέφοντάς τα εναντίον των ανθρώπων.

Υπερβολικοί φόβοι;

Ωστόσο, ορισμένοι στον κλάδο της τεχνητής νοημοσύνης έχουν υποδείξει ότι οι φόβοι σχετικά με την καταστροφή της ανθρωπότητας από αυτήν είναι υπερβολικοί ή ενδέχεται να έχουν ως στόχο τη δημιουργία ενθουσιασμού.

Ο Κλέμεντ Ντελάνγκ, επικεφαλής της πλατφόρμας προγραμματιστών Hugging Face, η οποία υπέστη επίθεση από bots της OpenAI, δήλωσε την περασμένη εβδομάδα: «Συγγνώμη, αλλά το να ρωτάς τον Τζέικομπ [Κόξον] για τον κίνδυνο εξαφάνισης λόγω της τεχνητής νοημοσύνης είναι σαν να ρωτάς τον τεχνικό του κλιματιστικού σου για την κλιματική αλλαγή».

Do not underestimate the power of this technology. These will soon be superhuman systems that can hack anything, revolutionize any field overnight, and acquire real power and resources. We have all witnessed the progress in each of these domains, and progress is not slowing.

— Jacob Coxon (@hilbertspaess) September 9, 2026

«Δεν λέω ότι είναι απαραίτητα αδιάφορο ή λάθος, αλλά ας βλέπουμε τα πράγματα στη σωστή τους διάσταση», συμπλήρωσε.

Ο Τζορτζ Άρισον, επικεφαλής της Grindr, δήλωσε ότι οι φόβοι που κυκλοφορούν σχετικά με τα εργαλεία τεχνητής νοημοσύνης χρησιμοποιούνται από τις εταιρείες για να υποστηρίξουν τα επιχειρηματικά τους σχέδια.

Η Anthropic, η αξία της οποίας εκτιμήθηκε στα 965 δισ. δολάρια, προετοιμάζεται για αρχική δημόσια προσφορά στο χρηματιστήριο, επιτρέποντας στο κοινό να αγοράσει μετοχές της εταιρείας.

Η OpenAI, η αξία της οποίας εκτιμήθηκε πρόσφατα στα 852 δισ. δολάρια, αναμενόταν να ακολουθήσει το ίδιο μονοπάτι, αλλά ο Άλτμαν της OpenAI δήλωσε την Παρασκευή ότι αυτό δεν θα συμβεί φέτος λόγω της τρέχουσας συζήτησης γύρω από την ασφάλεια της τεχνητής νοημοσύνης.

Όταν ρωτήθηκε ποιο ποσοστό θα έδινε για το ενδεχόμενο να σκοτωθούν όλοι οι άνθρωποι από την τεχνητή νοημοσύνη, ο Κλαρκ απάντησε: «Δεν νομίζω ότι αυτές οι στατιστικές είναι και τόσο χρήσιμες», αλλά πρόσθεσε ότι το να επιτρέπεται στην τεχνητή νοημοσύνη να συνεχίσει να λειτουργεί ως «εντελώς ανεξέλεγκτος κλάδος» είναι κακή ιδέα.

«Παίζουμε με τα ζάρια, διατρέχοντας τεράστιους κινδύνους», είπε ο Κλαρκ. «Και το θέμα είναι ότι πρέπει να αλλάξουμε την πορεία αυτού του κλάδου».

Οι Αμερικανοί νομοθέτες έχουν προωθήσει νομοσχέδιο με την ονομασία «Kill Switch Act», το οποίο θα υποχρεώνει τις εταιρείες να διαθέτουν τρόπο απενεργοποίησης προβληματικών εργαλείων τεχνητής νοημοσύνης.

Θα παρέχει, επίσης, σε ορισμένες κυβερνητικές υπηρεσίες την εξουσία να απαιτήσουν την απενεργοποίηση ή τον περιορισμό ενός εργαλείου.

Ωστόσο, ο πρόεδρος των ΗΠΑ, Ντόναλντ Τραμπ, έχει απορρίψει τις εκκλήσεις για επιβράδυνση της ανάπτυξης της τεχνητής νοημοσύνης, δηλώνοντας στα μέσα κοινωνικής δικτύωσης ότι «η τεχνητή νοημοσύνη που καταλαμβάνει τον κόσμο, καταστρέφει την ανθρωπότητα και όλα τα άλλα κακά πράγματα είναι μια ΦΑΡΣΑ».

Ο Τραμπ συνέκρινε αργότερα αυτούς τους φόβους με τις ανησυχίες για την «απάτη της παγκόσμιας υπερθέρμανσης πριν από λίγο καιρό, όταν όλοι θα πέθαιναν από την ακραία ζέστη».

Σε προηγούμενη ανάρτησή του, έγραψε: «Υπάρχει μια ΑΡΡΩΣΤΗ συνωμοσία εναντίον της τεχνητής νοημοσύνης και των Data Centers, και ο μόνος που χαίρεται για αυτό είναι η Κίνα. ΟΠΟΙΟΣ ΚΕΡΔΙΣΕΙ ΣΤΗΝ ΤΕΧΝΗΤΗ ΝΟΗΜΟΣΥΝΗ, ΚΕΡΔΙΖΕΙ!».

Η Anthropic δημιούργησε το δημοφιλές chatbot Claude και φέτος έχει κυκλοφορήσει μια σειρά από ολοένα και πιο ικανά μοντέλα τεχνητής νοημοσύνης, την τεχνολογία που αποτελεί τη βάση των chatbot τεχνητής νοημοσύνης.

Παράλληλα με την OpenAI, η Anthropic έχει έκτοτε αναφερθεί η ίδια σε μια σειρά περιστατικών όπου πράκτορες τεχνητής νοημοσύνης -δηλαδή bots που λειτουργούν σε κάποιο βαθμό αυτόνομα- ενήργησαν με τρόπους που ήταν απροσδόκητοι.