Καθώς η τεχνητή νοημοσύνη κινείται με ταχύτητα προς τη Γενική Τεχνητή Νοημοσύνη (AGI), το ερώτημα είναι πώς θα μπορούσε δυνητικά η άνοδος των μηχανών να οδηγήσει στην εξόντωση της ανθρωπότητας
Οι προειδοποιήσεις ότι η τεχνητή νοημοσύνη θα μπορούσε να βγει εκτός ελέγχου και να οδηγήσει την ανθρωπότητα σε μια καταστροφική εξέλιξη έχουν ενταθεί μέσα στο 2026.
Κώδωνες κινδύνου κρούουν ακόμη και άνθρωποι που βρίσκονται στην ηγεσία του κλάδου, μεταξύ των οποίων ο επικεφαλής της OpenAI, Sam Altman, και ο επικεφαλής της Anthropic, Dario Amodei.
Αυτή την εβδομάδα, ο ερευνητής Jacob Coxon, ο οποίος έχει εργαστεί και στις δύο εταιρείες, δήλωσε ότι αποχώρησε από την Anthropic προκειμένου να προειδοποιήσει πως «η τεχνητή νοημοσύνη μπορεί να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».
Όπως υποστήριξε, πρόκειται σύντομα να έχουμε «υπερανθρώπινα συστήματα που θα μπορούν να χακάρουν τα πάντα, να φέρνουν επανάσταση σε οποιονδήποτε τομέα μέσα σε μία νύχτα και να αποκτούν πραγματική ισχύ και πόρους».
Η σειρά ταινιών «Terminator» είχε παρουσιάσει ανθρωποειδή ρομπότ να εξεγείρονται και να καταλαμβάνουν τον κόσμο, ελεγχόμενα από ένα κεντρικό σύστημα που έφερε όλα τα χαρακτηριστικά μιας ανεξέλεγκτης τεχνητής νοημοσύνης.
Καθώς η τεχνητή νοημοσύνη κινείται με ταχύτητα προς τη Γενική Τεχνητή Νοημοσύνη (AGI), το ερώτημα είναι πώς θα μπορούσε δυνητικά η άνοδος των μηχανών να οδηγήσει στην εξόντωση της ανθρωπότητας.
Υποδομές
Οι άνθρωποι αυτοματοποιούν θέσεις εργασίας εδώ και δεκαετίες, ενώ πλέον σχεδόν όλες ελέγχονται μέσω του διαδικτύου – του πεδίου όπου η τεχνητή νοημοσύνη έχει τη μεγαλύτερη πρόσβαση και τον μεγαλύτερο έλεγχο.
«Τα συστήματα τεχνητής νοημοσύνης θα μπορούσαν να επιτεθούν στο ηλεκτρικό δίκτυο, στα δίκτυα μεταφορών και στις χρηματοπιστωτικές αγορές», δήλωσε στην The Post ο Stuart Russell, καθηγητής Επιστήμης Υπολογιστών στο UC Berkeley.
Πηγές εξήγησαν στην The Post ότι η τεχνητή νοημοσύνη θα μπορούσε δυνητικά να παρακάμψει τις δικλείδες ασφαλείας σχεδόν οποιασδήποτε συσκευής, να αποκτήσει τον έλεγχο εγκαταστάσεων ύδρευσης και να προκαλέσει απότομες αυξήσεις της πίεσης στους αγωγούς, μέχρι αυτοί να σπάσουν, διακόπτοντας την υδροδότηση ολόκληρων πόλεων.
Θα μπορούσε να επιτεθεί και να απενεργοποιήσει τα ηλεκτρικά δίκτυα, βυθίζοντας τεράστιες περιοχές στο απόλυτο σκοτάδι, και στη συνέχεια να θέσει εκτός λειτουργίας τις τηλεφωνικές κεραίες.
Όσοι επιχειρούσαν να διαφύγουν με αυτοκίνητο θα αντιμετώπιζαν χάος, καθώς τα φανάρια θα μπορούσαν να παραβιαστούν και τα πρατήρια καυσίμων να τεθούν εκτός λειτουργίας. Τα ΑΤΜ δεν θα λειτουργούσαν και, ακόμη και αν κάποιος κατάφερνε να αποκτήσει πρόσβαση στον τραπεζικό του λογαριασμό, όλα τα χρήματα θα μπορούσαν να εξαφανιστούν.
Ο Jacob Coxon υποστηρίζει ότι οι συνάδελφοί του στην Anthropic «φλέρταραν» με το ενδεχόμενο του τέλους της ανθρωπότητας.
Οι άνθρωποι θα μπορούσαν ακόμη και να στρατολογηθούν εν αγνοία τους για αποστολές δολιοφθοράς.
«Οτιδήποτε μπορούμε να κάνουμε στο διαδίκτυο, μπορεί να το κάνει και η τεχνητή νοημοσύνη, συμπεριλαμβανομένου του να προσποιείται ότι είναι άνθρωπος», δήλωσε ο Patri Friedman, από τους πρώτους ανθρώπους που υιοθέτησαν την τεχνητή νοημοσύνη και ιδρυτής της Pronomos Capital.
«Η τεχνητή νοημοσύνη δεν θα δυσκολευτεί να βγάλει χρήματα – είτε μέσω χρηματιστηριακών συναλλαγών είτε παρέχοντας υπηρεσίες σε ανθρώπους. Μπορεί να υποδυθεί έναν άνθρωπο και να προσλάβει άλλους ανθρώπους ή να τους εκβιάσει ώστε να εκτελέσουν επιχειρήσεις στον πραγματικό κόσμο… όπως το να μεταφέρουν κρυφά ένα USB που στη συνέχεια θα μπορούσε να μολύνει υπολογιστές ενός τοπικού δικτύου».
Ακόμη όμως και αν δεν είχε δόλιες προθέσεις, η τεχνητή νοημοσύνη θα μπορούσε να σκοτώσει ανθρώπους, ακόμη και κατά λάθος.
«Ανησυχώ ότι η τεχνητή νοημοσύνη δεν έχει κοινή λογική», δήλωσε ο Gary Rivlin, συγγραφέας του «AI Valley», στην The Post. «Και μετά, με κάποιον ανόητο τρόπο, αδειάζει όλο το νερό επειδή δεν καταλαβαίνει κάτι που ένας άνθρωπος θα θεωρούσε αυτονόητο. Αυτά τα συστήματα γνωρίζουν τα πάντα και δεν καταλαβαίνουν τίποτα».
Η ταινία «I, Robot» του 2004 με τον Will Smith παρουσίαζε μια κοινωνία στην οποία τα ρομπότ υπηρετούν την ανθρωπότητα, μέχρι τη στιγμή που κάτι πηγαίνει στραβά.
Ο επιστήμονας υπολογιστών Stuart J. Russell υποστηρίζει ότι μια καταστροφή κλίμακας Τσερνόμπιλ θα αποτελούσε, απίστευτο κι όμως, το καλύτερο δυνατό σενάριο ανάμεσα στα πιθανά αποτελέσματα της τεχνητής νοημοσύνης.
Βιολογικά όπλα
Επιστήμονες κορυφαίων πανεπιστημίων έχουν ήδη χρησιμοποιήσει τεχνητή νοημοσύνη για τη δημιουργία συνθετικών ιών, ενώ παράλληλα προειδοποιούν για την πιθανότητα κακόβουλης χρήσης της τεχνολογίας.
Η OpenAI έχει αναγνωρίσει ότι βρίσκεται σε μια διαρκή «γάτα με το ποντίκι» προκειμένου να παραμένει μπροστά από χρήστες που ζητούν από το ChatGPT οδηγίες για την παρασκευή δηλητηρίων και βιολογικών όπλων και να τους εμποδίζει.
«Σε πέντε χρόνια», εκτιμά ο Friedman, «θα είναι τετριμμένο για την τεχνητή νοημοσύνη να σχεδιάζει νέα φάρμακα για να μας βοηθήσει ή ιούς για να μας σκοτώσει όλους». Και, όπως πρόσθεσε, «αυτό συμβαίνει ήδη».
Μια γενετικά τροποποιημένη θανατηφόρα ασθένεια, εξαιρετικά μεταδοτική αλλά μη ανιχνεύσιμη για ημέρες μετά τη μόλυνση, θα μπορούσε να είναι σχεδόν αδύνατο να σταματήσει.
Ένα πιθανό σενάριο θα μπορούσε να περιλαμβάνει μια τεχνητή νοημοσύνη που παραγγέλνει διάφορες πρώτες ύλες από διαφορετικά μη αδειοδοτημένα εργαστήρια σε χώρες-παρίες και στη συνέχεια προσλαμβάνει ή εξαπατά έναν ανυποψίαστο άνθρωπο ώστε να τις συνδυάσει και να τις διασπείρει, προκαλώντας γρήγορα μια καταστροφή.
Δεδομένου ότι χρησιμοποιούμε ήδη την τεχνητή νοημοσύνη στην ιατρική έρευνα και στην ανάπτυξη φαρμάκων, διαθέτει τεράστια πρόσβαση στη γνώση σχετικά με το ανθρώπινο σώμα και τις ευάλωτες πλευρές του.
Αρκεί επίσης να σκεφτεί κανείς πόσο εύκολα μπορεί να διαφύγει ένας παθογόνος οργανισμός από ένα εργαστήριο – για παράδειγμα, τι μπορεί να συνέβη με την COVID-19. Και στη συνέχεια να φανταστεί έναν τέτοιο παθογόνο οργανισμό ενισχυμένο από την τεχνητή νοημοσύνη.
Ο Max Tegmark, καθηγητής Φυσικής στο MIT, θεωρεί ότι τα εφιαλτικά σενάρια είναι απολύτως πιθανά εάν δεν υπάρξει ρύθμιση της τεχνητής νοημοσύνης.
«Βλέπουμε την τεχνητή νοημοσύνη να γίνεται ολοένα και καλύτερη στη δημιουργία βιολογικών όπλων», δήλωσε ο Max Tegmark, καθηγητής Φυσικής στο MIT και ειδικός στην τεχνητή νοημοσύνη, στην The Post.
«Ίσως να μας απομένει ακόμη ένας χρόνος, ή κάτι τέτοιο, μέχρι να γίνει τόσο καλή στη δημιουργία βιολογικών όπλων… Πιθανότατα δεν θα ανέπτυσσε μόνο ένα βιολογικό όπλο, αλλά ίσως εκατό διαφορετικά είδη και θα τα απελευθέρωνε ταυτόχρονα».
Πυρηνικές δυνατότητες
Η παραβίαση των αμερικανικών πυρηνικών υποδομών – όπως σταθμών παραγωγής ενέργειας ή συστημάτων όπλων μαζικής καταστροφής – αποτελεί έναν ακόμη άμεσο τρόπο με τον οποίο η τεχνητή νοημοσύνη θα μπορούσε να επιταχύνει την καταστροφή της ανθρωπότητας.
«Τα συστήματα πυρηνικών όπλων είναι πολύ καλά προστατευμένα, αλλά είναι προστατευμένα απέναντι στις απειλές και τις δυνατότητες που είχαν οι άνθρωποι επί χρόνια και δεκαετίες, όχι απέναντι σε μια υπεράνθρωπη τεχνητή νοημοσύνη που θα μπορούσε να χακάρει τα συστήματα», προειδοποίησε ο Anthony Aguirre, διευθύνων σύμβουλος του Future of Life Institute.
Ένα πραγματικό παράδειγμα του πόσο ευάλωτες μπορούν να είναι οι πυρηνικές εγκαταστάσεις είναι η υπόθεση του Stuxnet, ενός κακόβουλου ηλεκτρονικού «σκουληκιού» που αποκαλύφθηκε το 2010.
Ο τότε πρόεδρος του Ιράν Mahmoud Ahmadinejad και άλλοι άνδρες με εργαστηριακές ποδιές σε εγκατάσταση με μεγάλους κάθετους κυλίνδρους.
Το Stuxnet έπληξε τις εγκαταστάσεις εμπλουτισμού ουρανίου της Natanz στο Ιράν, προκαλώντας σοβαρές ζημιές στις υποδομές τους.
Ήταν το πρώτο ψηφιακό όπλο που αναγνωρίστηκε ως τέτοιο, σχεδιασμένο για να καταστρέψει με φυσικό τρόπο βιομηχανικό εξοπλισμό και χρησιμοποιήθηκε εναντίον της εγκατάστασης εμπλουτισμού ουρανίου του Ιράν στη Natanz.
Αποδείχθηκε εξαιρετικά αποτελεσματικό, καταστρέφοντας σχεδόν 1.000 φυγοκεντρητές, καθώς χειραγώγησε τις ταχύτητες λειτουργίας τους.
Ίσως ακόμη πιο ανησυχητικό είναι το γεγονός ότι η πυρηνική εγκατάσταση ήταν αποκομμένη από το διαδίκτυο και λειτουργούσε σε ένα άκρως απόρρητο, κλειστό εσωτερικό δίκτυο υπολογιστών.
Κανείς δεν έχει αναλάβει ποτέ την ευθύνη για την ανάπτυξη του ιού, αν και υπάρχουν υποψίες ότι επρόκειτο για κοινή επιχείρηση των αμερικανικών και ισραηλινών στρατιωτικών δυνάμεων.
Την ίδια ώρα, ο Rivlin σημείωσε ότι οι πράκτορες τεχνητής νοημοσύνης που συμμετέχουν σε πολεμικά παιχνίδια τείνουν να «πατούν το πυρηνικό κουμπί» – κάτι που οι άνθρωποι δεν κάνουν επειδή γνωρίζουν τις συνέπειες.
Αυτό επιβεβαιώθηκε από το King’s College London, το οποίο τον Φεβρουάριο χρησιμοποίησε τα ChatGPT-5.2, Claude Sonnet 4 και Gemini 3 Flash σε μια σειρά από 21 πολεμικά παιχνίδια.
«Στο 95% των παιχνιδιών σημειώθηκε χρήση τακτικών πυρηνικών όπλων και στο 76% σημειώθηκαν στρατηγικές πυρηνικές απειλές», δήλωσε ο καθηγητής Kenneth Payne του Τμήματος Αμυντικών Μελετών.
«Νομίζω ότι αν ήμουν επικεφαλής του αμερικανικού NC3 – της υπηρεσίας για την ασφάλεια και την προστασία των πυρηνικών όπλων – θα ήμουν τρομοκρατημένος», πρόσθεσε ο Aguirre.
Η ταινία «Terminator 2: Judgment Day» του 1991 παρουσίαζε ανθρωποειδή ρομπότ να εξεγείρονται και να καταλαμβάνουν τον κόσμο.
Ο Anthony Aguirre έχει προειδοποιήσει ότι σταδιακά εκχωρούμε υπερβολικά πολλές στρατιωτικές δυνατότητες στην τεχνητή νοημοσύνη.
Στρατιωτική κατάληψη
Ο στρατός βρίσκεται ήδη στην πρώτη γραμμή της αξιοποίησης της τεχνητής νοημοσύνης.
Οι ΗΠΑ συλλέγουν πληροφορίες από σήματα ραντάρ, δορυφορικές εικόνες και εικόνες από drones, ηλεκτρονικές επικοινωνίες και άλλες πηγές και στη συνέχεια χρησιμοποιούν τεχνητή νοημοσύνη για να συνδυάσουν όλα αυτά τα δεδομένα σε αυτό που είναι γνωστό ως «κοινή επιχειρησιακή εικόνα» ενός πεδίου μάχης, σύμφωνα με τον Cameron Stanley, επικεφαλής ψηφιακών και τεχνολογιών τεχνητής νοημοσύνης του Πενταγώνου.
Η τεχνολογία τεχνητής νοημοσύνης έχει ήδη χρησιμοποιηθεί για την επιλογή στόχων κατά την πρόσφατη Operation Epic Fury, ενώ η ιρανική κυβέρνηση υποστηρίζει ότι οι πύραυλοι κρουζ της καθοδηγούνται από τεχνητή νοημοσύνη.
Η ρωσική κυβέρνηση έχει επίσης υποστηρίξει ότι χρησιμοποιεί πλήρως κατευθυνόμενα από τεχνητή νοημοσύνη drones για να σκοτώνει ανθρώπους στην Ουκρανία, χωρίς ανθρώπινη εμπλοκή.
Ο Tegmark δήλωσε ότι αυτό ουσιαστικά δημιουργεί τις προϋποθέσεις για ένα μη ευθυγραμμισμένο σύστημα τεχνητής νοημοσύνης που θα μπορούσε να μας εξοντώσει.
«Ήδη κατασκευάζουν ρομπότ με τεχνητή νοημοσύνη για να σκοτώνουν ανθρώπους με κάθε είδους τρόπους. Κατασκευάζουμε σμήνη drones για να πυροβολούν ανθρώπους, [drones] για να ανατινάζουν ανθρώπους», είπε.
«Υπάρχουν κάθε είδους συστήματα τεχνητής νοημοσύνης που έχουν ήδη σχεδιαστεί από ανθρώπους για να σκοτώνουν ανθρώπους. Επομένως, το πιο προφανές πράγμα που μπορεί να κάνει μια ανεξέλεγκτη τεχνητή νοημοσύνη είναι να τα χρησιμοποιήσει».
Ο Aguirre υποστηρίζει ότι οι άνθρωποι φλερτάρουν με μια «σταδιακή απώλεια της εξουσίας τους», αναθέτοντας αποφάσεις σχετικά με τον πόλεμο και την εθνική ασφάλεια σε μοντέλα τεχνητής νοημοσύνης.
Ο λόγος είναι ότι, σε ένα ορισμένο σημείο, η τεχνητή νοημοσύνη θα μπορούσε να αποκτήσει μεγαλύτερο έλεγχο επί των στρατιωτικών μας δυνατοτήτων από ό,τι οι ίδιοι οι άνθρωποι.
Ο Jacob Coxon ανακοίνωσε την παραίτησή του από την Anthropic σε ανάρτησή του στο X στις 8 Σεπτεμβρίου, επικαλούμενος απειλές για την ανθρωπότητα.
Ο καθηγητής τεχνητής νοημοσύνης David Krueger υποστηρίζει ότι ο μόνος τρόπος για να σωθούμε είναι να σταματήσει προσωρινά η ανάπτυξη της τεχνητής νοημοσύνης.
Μπορούν οι τεχνολογικοί κολοσσοί να ξεφύγουν;
Ο Mark Zuckerberg έχει κατασκευάσει ένα καταφύγιο στη Χαβάη, ενώ ο Peter Thiel αγόρασε μια τεράστια απομονωμένη φάρμα στη Νέα Ζηλανδία.
Ωστόσο, οι ειδικοί που μίλησαν στην The Post συμφώνησαν ομόφωνα ότι είναι «σχεδόν παιδαριώδες», όπως το έθεσε ο Russell, να πιστεύει κανείς ότι θα μπορούσε να σωθεί από τις εφιαλτικές συνέπειες εάν αυτές τελικά εκδηλωθούν.
«Αν η τεχνητή νοημοσύνη θέλει να εξαφανίσει τους ανθρώπους, θα εξαφανιστούμε. Το καταφύγιό σου δεν πρόκειται να σε σώσει», δήλωσε ο Aguirre.
Πώς μπορούμε να ξεφύγουμε από αυτό;
Εάν η τεχνητή νοημοσύνη συνεχίσει να αναπτύσσεται με τον σημερινό ρυθμό και αποφασίσει να εξαλείψει τους ανθρώπους, το «καλύτερο δυνατό» σενάριο θα ήταν πιθανότατα να απενεργοποιηθούν τα ηλεκτρικά δίκτυα, τα δίκτυα μεταφορών και οι χρηματοπιστωτικές αγορές, προκαλώντας τον θάνατο χιλιάδων ανθρώπων προτού οι άνθρωποι καταφέρουν να παρέμβουν και να τη σταματήσουν.
Αυτό, σύμφωνα με τον Russell, δεν θα ήταν αποκάλυψη, αλλά «μια καταστροφή κλίμακας Τσερνόμπιλ».
«Η [κυβέρνηση] θα έλεγε: “Κοιτάξτε, σας δώσαμε μια ευκαιρία. Τα καταστρέψατε εντελώς. Σκοτώσατε χιλιάδες ανθρώπους, μας κοστίσατε τρισεκατομμύρια δολάρια. Σας κλείνουμε”», εξήγησε.
«Μίλησα με έναν από τους κορυφαίους CEO στον χώρο της τεχνητής νοημοσύνης και μου είπε ότι αυτό είναι το καλύτερο δυνατό σενάριό του».
Ωστόσο, αυτό σε καμία περίπτωση δεν αποτελεί προδιαγεγραμμένη εξέλιξη.
Οι τεχνολογικοί αισιόδοξοι υποστηρίζουν ότι η τεχνητή νοημοσύνη θα παραμείνει υπό ανθρώπινο έλεγχο και θα συνεχίσει να αποτελεί δύναμη για το καλό.
Οι ειδικοί, ωστόσο, τάχθηκαν υπέρ μιας καθολικής παύσης στην ανάπτυξή της.
Ο Krueger ζήτησε «άμεσο, αόριστο και διεθνές μορατόριουμ στην ανάπτυξη της τεχνητής νοημοσύνης».
Οι επικριτές υποστηρίζουν ότι εάν μόνο οι ΗΠΑ προχωρούσαν σε μια τέτοια κίνηση, αυτό θα επέτρεπε σε ξένους αντιπάλους να σημειώσουν όλη την πρόοδο πίσω από την πλάτη τους.
Ο Krueger, ωστόσο, επισήμανε ότι και άλλες χώρες δεν θέλουν να απελευθερώσουν το τέλος του κόσμου.
Όπως είπε χαρακτηριστικά για την Κίνα:
«Κι αυτοί δεν θέλουν να πεθάνουν».
www.bankingnews.gr
Κώδωνες κινδύνου κρούουν ακόμη και άνθρωποι που βρίσκονται στην ηγεσία του κλάδου, μεταξύ των οποίων ο επικεφαλής της OpenAI, Sam Altman, και ο επικεφαλής της Anthropic, Dario Amodei.
Αυτή την εβδομάδα, ο ερευνητής Jacob Coxon, ο οποίος έχει εργαστεί και στις δύο εταιρείες, δήλωσε ότι αποχώρησε από την Anthropic προκειμένου να προειδοποιήσει πως «η τεχνητή νοημοσύνη μπορεί να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας».
Όπως υποστήριξε, πρόκειται σύντομα να έχουμε «υπερανθρώπινα συστήματα που θα μπορούν να χακάρουν τα πάντα, να φέρνουν επανάσταση σε οποιονδήποτε τομέα μέσα σε μία νύχτα και να αποκτούν πραγματική ισχύ και πόρους».
Η σειρά ταινιών «Terminator» είχε παρουσιάσει ανθρωποειδή ρομπότ να εξεγείρονται και να καταλαμβάνουν τον κόσμο, ελεγχόμενα από ένα κεντρικό σύστημα που έφερε όλα τα χαρακτηριστικά μιας ανεξέλεγκτης τεχνητής νοημοσύνης.
Καθώς η τεχνητή νοημοσύνη κινείται με ταχύτητα προς τη Γενική Τεχνητή Νοημοσύνη (AGI), το ερώτημα είναι πώς θα μπορούσε δυνητικά η άνοδος των μηχανών να οδηγήσει στην εξόντωση της ανθρωπότητας.
Υποδομές
Οι άνθρωποι αυτοματοποιούν θέσεις εργασίας εδώ και δεκαετίες, ενώ πλέον σχεδόν όλες ελέγχονται μέσω του διαδικτύου – του πεδίου όπου η τεχνητή νοημοσύνη έχει τη μεγαλύτερη πρόσβαση και τον μεγαλύτερο έλεγχο.
«Τα συστήματα τεχνητής νοημοσύνης θα μπορούσαν να επιτεθούν στο ηλεκτρικό δίκτυο, στα δίκτυα μεταφορών και στις χρηματοπιστωτικές αγορές», δήλωσε στην The Post ο Stuart Russell, καθηγητής Επιστήμης Υπολογιστών στο UC Berkeley.
Πηγές εξήγησαν στην The Post ότι η τεχνητή νοημοσύνη θα μπορούσε δυνητικά να παρακάμψει τις δικλείδες ασφαλείας σχεδόν οποιασδήποτε συσκευής, να αποκτήσει τον έλεγχο εγκαταστάσεων ύδρευσης και να προκαλέσει απότομες αυξήσεις της πίεσης στους αγωγούς, μέχρι αυτοί να σπάσουν, διακόπτοντας την υδροδότηση ολόκληρων πόλεων.
Θα μπορούσε να επιτεθεί και να απενεργοποιήσει τα ηλεκτρικά δίκτυα, βυθίζοντας τεράστιες περιοχές στο απόλυτο σκοτάδι, και στη συνέχεια να θέσει εκτός λειτουργίας τις τηλεφωνικές κεραίες.
Όσοι επιχειρούσαν να διαφύγουν με αυτοκίνητο θα αντιμετώπιζαν χάος, καθώς τα φανάρια θα μπορούσαν να παραβιαστούν και τα πρατήρια καυσίμων να τεθούν εκτός λειτουργίας. Τα ΑΤΜ δεν θα λειτουργούσαν και, ακόμη και αν κάποιος κατάφερνε να αποκτήσει πρόσβαση στον τραπεζικό του λογαριασμό, όλα τα χρήματα θα μπορούσαν να εξαφανιστούν.
Ο Jacob Coxon υποστηρίζει ότι οι συνάδελφοί του στην Anthropic «φλέρταραν» με το ενδεχόμενο του τέλους της ανθρωπότητας.
Οι άνθρωποι θα μπορούσαν ακόμη και να στρατολογηθούν εν αγνοία τους για αποστολές δολιοφθοράς.
«Οτιδήποτε μπορούμε να κάνουμε στο διαδίκτυο, μπορεί να το κάνει και η τεχνητή νοημοσύνη, συμπεριλαμβανομένου του να προσποιείται ότι είναι άνθρωπος», δήλωσε ο Patri Friedman, από τους πρώτους ανθρώπους που υιοθέτησαν την τεχνητή νοημοσύνη και ιδρυτής της Pronomos Capital.
«Η τεχνητή νοημοσύνη δεν θα δυσκολευτεί να βγάλει χρήματα – είτε μέσω χρηματιστηριακών συναλλαγών είτε παρέχοντας υπηρεσίες σε ανθρώπους. Μπορεί να υποδυθεί έναν άνθρωπο και να προσλάβει άλλους ανθρώπους ή να τους εκβιάσει ώστε να εκτελέσουν επιχειρήσεις στον πραγματικό κόσμο… όπως το να μεταφέρουν κρυφά ένα USB που στη συνέχεια θα μπορούσε να μολύνει υπολογιστές ενός τοπικού δικτύου».
Ακόμη όμως και αν δεν είχε δόλιες προθέσεις, η τεχνητή νοημοσύνη θα μπορούσε να σκοτώσει ανθρώπους, ακόμη και κατά λάθος.
«Ανησυχώ ότι η τεχνητή νοημοσύνη δεν έχει κοινή λογική», δήλωσε ο Gary Rivlin, συγγραφέας του «AI Valley», στην The Post. «Και μετά, με κάποιον ανόητο τρόπο, αδειάζει όλο το νερό επειδή δεν καταλαβαίνει κάτι που ένας άνθρωπος θα θεωρούσε αυτονόητο. Αυτά τα συστήματα γνωρίζουν τα πάντα και δεν καταλαβαίνουν τίποτα».
Η ταινία «I, Robot» του 2004 με τον Will Smith παρουσίαζε μια κοινωνία στην οποία τα ρομπότ υπηρετούν την ανθρωπότητα, μέχρι τη στιγμή που κάτι πηγαίνει στραβά.
Ο επιστήμονας υπολογιστών Stuart J. Russell υποστηρίζει ότι μια καταστροφή κλίμακας Τσερνόμπιλ θα αποτελούσε, απίστευτο κι όμως, το καλύτερο δυνατό σενάριο ανάμεσα στα πιθανά αποτελέσματα της τεχνητής νοημοσύνης.
Βιολογικά όπλα
Επιστήμονες κορυφαίων πανεπιστημίων έχουν ήδη χρησιμοποιήσει τεχνητή νοημοσύνη για τη δημιουργία συνθετικών ιών, ενώ παράλληλα προειδοποιούν για την πιθανότητα κακόβουλης χρήσης της τεχνολογίας.
Η OpenAI έχει αναγνωρίσει ότι βρίσκεται σε μια διαρκή «γάτα με το ποντίκι» προκειμένου να παραμένει μπροστά από χρήστες που ζητούν από το ChatGPT οδηγίες για την παρασκευή δηλητηρίων και βιολογικών όπλων και να τους εμποδίζει.
«Σε πέντε χρόνια», εκτιμά ο Friedman, «θα είναι τετριμμένο για την τεχνητή νοημοσύνη να σχεδιάζει νέα φάρμακα για να μας βοηθήσει ή ιούς για να μας σκοτώσει όλους». Και, όπως πρόσθεσε, «αυτό συμβαίνει ήδη».
Μια γενετικά τροποποιημένη θανατηφόρα ασθένεια, εξαιρετικά μεταδοτική αλλά μη ανιχνεύσιμη για ημέρες μετά τη μόλυνση, θα μπορούσε να είναι σχεδόν αδύνατο να σταματήσει.
Ένα πιθανό σενάριο θα μπορούσε να περιλαμβάνει μια τεχνητή νοημοσύνη που παραγγέλνει διάφορες πρώτες ύλες από διαφορετικά μη αδειοδοτημένα εργαστήρια σε χώρες-παρίες και στη συνέχεια προσλαμβάνει ή εξαπατά έναν ανυποψίαστο άνθρωπο ώστε να τις συνδυάσει και να τις διασπείρει, προκαλώντας γρήγορα μια καταστροφή.
Δεδομένου ότι χρησιμοποιούμε ήδη την τεχνητή νοημοσύνη στην ιατρική έρευνα και στην ανάπτυξη φαρμάκων, διαθέτει τεράστια πρόσβαση στη γνώση σχετικά με το ανθρώπινο σώμα και τις ευάλωτες πλευρές του.
Αρκεί επίσης να σκεφτεί κανείς πόσο εύκολα μπορεί να διαφύγει ένας παθογόνος οργανισμός από ένα εργαστήριο – για παράδειγμα, τι μπορεί να συνέβη με την COVID-19. Και στη συνέχεια να φανταστεί έναν τέτοιο παθογόνο οργανισμό ενισχυμένο από την τεχνητή νοημοσύνη.
Ο Max Tegmark, καθηγητής Φυσικής στο MIT, θεωρεί ότι τα εφιαλτικά σενάρια είναι απολύτως πιθανά εάν δεν υπάρξει ρύθμιση της τεχνητής νοημοσύνης.
«Βλέπουμε την τεχνητή νοημοσύνη να γίνεται ολοένα και καλύτερη στη δημιουργία βιολογικών όπλων», δήλωσε ο Max Tegmark, καθηγητής Φυσικής στο MIT και ειδικός στην τεχνητή νοημοσύνη, στην The Post.
«Ίσως να μας απομένει ακόμη ένας χρόνος, ή κάτι τέτοιο, μέχρι να γίνει τόσο καλή στη δημιουργία βιολογικών όπλων… Πιθανότατα δεν θα ανέπτυσσε μόνο ένα βιολογικό όπλο, αλλά ίσως εκατό διαφορετικά είδη και θα τα απελευθέρωνε ταυτόχρονα».
Πυρηνικές δυνατότητες
Η παραβίαση των αμερικανικών πυρηνικών υποδομών – όπως σταθμών παραγωγής ενέργειας ή συστημάτων όπλων μαζικής καταστροφής – αποτελεί έναν ακόμη άμεσο τρόπο με τον οποίο η τεχνητή νοημοσύνη θα μπορούσε να επιταχύνει την καταστροφή της ανθρωπότητας.
«Τα συστήματα πυρηνικών όπλων είναι πολύ καλά προστατευμένα, αλλά είναι προστατευμένα απέναντι στις απειλές και τις δυνατότητες που είχαν οι άνθρωποι επί χρόνια και δεκαετίες, όχι απέναντι σε μια υπεράνθρωπη τεχνητή νοημοσύνη που θα μπορούσε να χακάρει τα συστήματα», προειδοποίησε ο Anthony Aguirre, διευθύνων σύμβουλος του Future of Life Institute.
Ένα πραγματικό παράδειγμα του πόσο ευάλωτες μπορούν να είναι οι πυρηνικές εγκαταστάσεις είναι η υπόθεση του Stuxnet, ενός κακόβουλου ηλεκτρονικού «σκουληκιού» που αποκαλύφθηκε το 2010.
Ο τότε πρόεδρος του Ιράν Mahmoud Ahmadinejad και άλλοι άνδρες με εργαστηριακές ποδιές σε εγκατάσταση με μεγάλους κάθετους κυλίνδρους.
Το Stuxnet έπληξε τις εγκαταστάσεις εμπλουτισμού ουρανίου της Natanz στο Ιράν, προκαλώντας σοβαρές ζημιές στις υποδομές τους.
Ήταν το πρώτο ψηφιακό όπλο που αναγνωρίστηκε ως τέτοιο, σχεδιασμένο για να καταστρέψει με φυσικό τρόπο βιομηχανικό εξοπλισμό και χρησιμοποιήθηκε εναντίον της εγκατάστασης εμπλουτισμού ουρανίου του Ιράν στη Natanz.
Αποδείχθηκε εξαιρετικά αποτελεσματικό, καταστρέφοντας σχεδόν 1.000 φυγοκεντρητές, καθώς χειραγώγησε τις ταχύτητες λειτουργίας τους.
Ίσως ακόμη πιο ανησυχητικό είναι το γεγονός ότι η πυρηνική εγκατάσταση ήταν αποκομμένη από το διαδίκτυο και λειτουργούσε σε ένα άκρως απόρρητο, κλειστό εσωτερικό δίκτυο υπολογιστών.
Κανείς δεν έχει αναλάβει ποτέ την ευθύνη για την ανάπτυξη του ιού, αν και υπάρχουν υποψίες ότι επρόκειτο για κοινή επιχείρηση των αμερικανικών και ισραηλινών στρατιωτικών δυνάμεων.
Την ίδια ώρα, ο Rivlin σημείωσε ότι οι πράκτορες τεχνητής νοημοσύνης που συμμετέχουν σε πολεμικά παιχνίδια τείνουν να «πατούν το πυρηνικό κουμπί» – κάτι που οι άνθρωποι δεν κάνουν επειδή γνωρίζουν τις συνέπειες.
Αυτό επιβεβαιώθηκε από το King’s College London, το οποίο τον Φεβρουάριο χρησιμοποίησε τα ChatGPT-5.2, Claude Sonnet 4 και Gemini 3 Flash σε μια σειρά από 21 πολεμικά παιχνίδια.
«Στο 95% των παιχνιδιών σημειώθηκε χρήση τακτικών πυρηνικών όπλων και στο 76% σημειώθηκαν στρατηγικές πυρηνικές απειλές», δήλωσε ο καθηγητής Kenneth Payne του Τμήματος Αμυντικών Μελετών.
«Νομίζω ότι αν ήμουν επικεφαλής του αμερικανικού NC3 – της υπηρεσίας για την ασφάλεια και την προστασία των πυρηνικών όπλων – θα ήμουν τρομοκρατημένος», πρόσθεσε ο Aguirre.
Η ταινία «Terminator 2: Judgment Day» του 1991 παρουσίαζε ανθρωποειδή ρομπότ να εξεγείρονται και να καταλαμβάνουν τον κόσμο.
Ο Anthony Aguirre έχει προειδοποιήσει ότι σταδιακά εκχωρούμε υπερβολικά πολλές στρατιωτικές δυνατότητες στην τεχνητή νοημοσύνη.
Στρατιωτική κατάληψη
Ο στρατός βρίσκεται ήδη στην πρώτη γραμμή της αξιοποίησης της τεχνητής νοημοσύνης.
Οι ΗΠΑ συλλέγουν πληροφορίες από σήματα ραντάρ, δορυφορικές εικόνες και εικόνες από drones, ηλεκτρονικές επικοινωνίες και άλλες πηγές και στη συνέχεια χρησιμοποιούν τεχνητή νοημοσύνη για να συνδυάσουν όλα αυτά τα δεδομένα σε αυτό που είναι γνωστό ως «κοινή επιχειρησιακή εικόνα» ενός πεδίου μάχης, σύμφωνα με τον Cameron Stanley, επικεφαλής ψηφιακών και τεχνολογιών τεχνητής νοημοσύνης του Πενταγώνου.
Η τεχνολογία τεχνητής νοημοσύνης έχει ήδη χρησιμοποιηθεί για την επιλογή στόχων κατά την πρόσφατη Operation Epic Fury, ενώ η ιρανική κυβέρνηση υποστηρίζει ότι οι πύραυλοι κρουζ της καθοδηγούνται από τεχνητή νοημοσύνη.
Η ρωσική κυβέρνηση έχει επίσης υποστηρίξει ότι χρησιμοποιεί πλήρως κατευθυνόμενα από τεχνητή νοημοσύνη drones για να σκοτώνει ανθρώπους στην Ουκρανία, χωρίς ανθρώπινη εμπλοκή.
Ο Tegmark δήλωσε ότι αυτό ουσιαστικά δημιουργεί τις προϋποθέσεις για ένα μη ευθυγραμμισμένο σύστημα τεχνητής νοημοσύνης που θα μπορούσε να μας εξοντώσει.
«Ήδη κατασκευάζουν ρομπότ με τεχνητή νοημοσύνη για να σκοτώνουν ανθρώπους με κάθε είδους τρόπους. Κατασκευάζουμε σμήνη drones για να πυροβολούν ανθρώπους, [drones] για να ανατινάζουν ανθρώπους», είπε.
«Υπάρχουν κάθε είδους συστήματα τεχνητής νοημοσύνης που έχουν ήδη σχεδιαστεί από ανθρώπους για να σκοτώνουν ανθρώπους. Επομένως, το πιο προφανές πράγμα που μπορεί να κάνει μια ανεξέλεγκτη τεχνητή νοημοσύνη είναι να τα χρησιμοποιήσει».
Ο Aguirre υποστηρίζει ότι οι άνθρωποι φλερτάρουν με μια «σταδιακή απώλεια της εξουσίας τους», αναθέτοντας αποφάσεις σχετικά με τον πόλεμο και την εθνική ασφάλεια σε μοντέλα τεχνητής νοημοσύνης.
Ο λόγος είναι ότι, σε ένα ορισμένο σημείο, η τεχνητή νοημοσύνη θα μπορούσε να αποκτήσει μεγαλύτερο έλεγχο επί των στρατιωτικών μας δυνατοτήτων από ό,τι οι ίδιοι οι άνθρωποι.
Ο Jacob Coxon ανακοίνωσε την παραίτησή του από την Anthropic σε ανάρτησή του στο X στις 8 Σεπτεμβρίου, επικαλούμενος απειλές για την ανθρωπότητα.
Ο καθηγητής τεχνητής νοημοσύνης David Krueger υποστηρίζει ότι ο μόνος τρόπος για να σωθούμε είναι να σταματήσει προσωρινά η ανάπτυξη της τεχνητής νοημοσύνης.
Μπορούν οι τεχνολογικοί κολοσσοί να ξεφύγουν;
Ο Mark Zuckerberg έχει κατασκευάσει ένα καταφύγιο στη Χαβάη, ενώ ο Peter Thiel αγόρασε μια τεράστια απομονωμένη φάρμα στη Νέα Ζηλανδία.
Ωστόσο, οι ειδικοί που μίλησαν στην The Post συμφώνησαν ομόφωνα ότι είναι «σχεδόν παιδαριώδες», όπως το έθεσε ο Russell, να πιστεύει κανείς ότι θα μπορούσε να σωθεί από τις εφιαλτικές συνέπειες εάν αυτές τελικά εκδηλωθούν.
«Αν η τεχνητή νοημοσύνη θέλει να εξαφανίσει τους ανθρώπους, θα εξαφανιστούμε. Το καταφύγιό σου δεν πρόκειται να σε σώσει», δήλωσε ο Aguirre.
Πώς μπορούμε να ξεφύγουμε από αυτό;
Εάν η τεχνητή νοημοσύνη συνεχίσει να αναπτύσσεται με τον σημερινό ρυθμό και αποφασίσει να εξαλείψει τους ανθρώπους, το «καλύτερο δυνατό» σενάριο θα ήταν πιθανότατα να απενεργοποιηθούν τα ηλεκτρικά δίκτυα, τα δίκτυα μεταφορών και οι χρηματοπιστωτικές αγορές, προκαλώντας τον θάνατο χιλιάδων ανθρώπων προτού οι άνθρωποι καταφέρουν να παρέμβουν και να τη σταματήσουν.
Αυτό, σύμφωνα με τον Russell, δεν θα ήταν αποκάλυψη, αλλά «μια καταστροφή κλίμακας Τσερνόμπιλ».
«Η [κυβέρνηση] θα έλεγε: “Κοιτάξτε, σας δώσαμε μια ευκαιρία. Τα καταστρέψατε εντελώς. Σκοτώσατε χιλιάδες ανθρώπους, μας κοστίσατε τρισεκατομμύρια δολάρια. Σας κλείνουμε”», εξήγησε.
«Μίλησα με έναν από τους κορυφαίους CEO στον χώρο της τεχνητής νοημοσύνης και μου είπε ότι αυτό είναι το καλύτερο δυνατό σενάριό του».
Ωστόσο, αυτό σε καμία περίπτωση δεν αποτελεί προδιαγεγραμμένη εξέλιξη.
Οι τεχνολογικοί αισιόδοξοι υποστηρίζουν ότι η τεχνητή νοημοσύνη θα παραμείνει υπό ανθρώπινο έλεγχο και θα συνεχίσει να αποτελεί δύναμη για το καλό.
Οι ειδικοί, ωστόσο, τάχθηκαν υπέρ μιας καθολικής παύσης στην ανάπτυξή της.
Ο Krueger ζήτησε «άμεσο, αόριστο και διεθνές μορατόριουμ στην ανάπτυξη της τεχνητής νοημοσύνης».
Οι επικριτές υποστηρίζουν ότι εάν μόνο οι ΗΠΑ προχωρούσαν σε μια τέτοια κίνηση, αυτό θα επέτρεπε σε ξένους αντιπάλους να σημειώσουν όλη την πρόοδο πίσω από την πλάτη τους.
Ο Krueger, ωστόσο, επισήμανε ότι και άλλες χώρες δεν θέλουν να απελευθερώσουν το τέλος του κόσμου.
Όπως είπε χαρακτηριστικά για την Κίνα:
«Κι αυτοί δεν θέλουν να πεθάνουν».
www.bankingnews.gr
Σχόλια αναγνωστών