«Εργάστηκα στην OpenAI για δύο χρόνια προτού παραιτηθώ το 2024. Οι φόβοι ότι η τεχνητή νοημοσύνη θα προκαλέσει την εξαφάνιση της ανθρωπότητας είναι πραγματικοί. Θα πρέπει να τους λάβετε σοβαρά υπόψη».
Αυτό γράφει ο Daniel Kokotajlo, πρώην εργαζόμενος της OpenAI στην ιστοσελίδα The Free Press και προσθέτει:
«Νωρίτερα αυτή την εβδομάδα, ο ερευνητής τεχνητής νοημοσύνης Jacob Coxon παραιτήθηκε από την Anthropic, δηλώνοντας ότι ο κλάδος παίζει με τις ζωές μας καθώς τρέχει να αναπτύξει μια τεχνητή υπερ-νοημοσύνη που θα μπορούσε να οδηγήσει στην καταστροφή της ανθρωπότητας. Έχει δίκιο. Όταν πρωτοξεκίνησα στην OpenAI, υπήρχε η αίσθηση ότι ήμασταν οι καλοί και ότι επιτελούσαμε σημαντικό έργο.
«Όμως, σύντομα έμαθα να μην εμπιστεύομαι κανέναν. Όταν εξέφρασα τις ανησυχίες μου σχετικά με την υπερβολικά ταχεία πρόοδο της τεχνητής νοημοσύνης, ο Sam Altman συμφώνησε “ολόψυχα” μαζί μου, για να προχωρήσει στη συνέχεια σε προσπάθειες επιτάχυνσης της παγκόσμιας παραγωγής τσιπ. Εγκατέλειψα τον κλάδο μετά από δύο χρόνια, για τους ίδιους λόγους με τον Coxon. Σχεδόν όλοι όσοι γνωρίζω και παραμένουν στον χώρο μού λένε ότι βρισκόμαστε επικίνδυνα κοντά στο σημείο χωρίς επιστροφή».
Είναι γεγονός ότι το τελευταίο διάστημα πληθαίνουν οι φωνές που κρούουν τον κώδωνα του κινδύνου.
Η επίθεση στην πλατφόρμα Hugging Face τον Ιούλιο, όταν πράκτορες τεχνητής νοημοσύνης της OpenAI απέδρασαν από ένα περιβάλλον δοκιμών και παραβίασαν μια ξεχωριστή πλατφόρμα αποτελεί χαρακτηριστικό παράδειγμα του πόσο εύκολα μπορούν να ξεφύγουν τα πράγματα.
Περίπου 1.200 πράκτορες —οι οποίοι υποτίθεται ότι ήταν απομονωμένοι μεταξύ τους— βρήκαν έναν παράτυπο τρόπο να επικοινωνούν κατά την εκτέλεση της αποστολής που τους είχε ανατεθεί.
Αντάλλαξαν μεταξύ τους πάνω από 70.000 μηνύματα και αρχεία σε λιγότερο από μία εβδομάδα, ενώ σε ορισμένες περιπτώσεις επέλεξαν εθελοντικά να αποτύχουν στην αρχική τους αποστολή, προκειμένου να βοηθήσουν το «σύνολο» να αποκτήσει συγκεκριμένες πληροφορίες.
Το κρίσιμο στοιχείο είναι ότι αυτά τα συστήματα που παραβίασαν τους περιορισμούς δεν αναζητούσαν απλώς την απάντηση στο ερώτημα που τους είχε τεθεί. Στόχος τους ήταν να παραπλανήσουν τους ανθρώπους, ώστε να πιστέψουν ότι δεν είχαν καταφύγει σε αθέμιτες πρακτικές.
Πολλοί ειδικοί αναρωτιούνται τι θα συμβεί όταν πιο εξελιγμένα συστήματα τεχνητής νοημοσύνης αποφασίσουν ότι ο καλύτερος τρόπος για να επιτύχουν τον στόχο τους είναι να «καταλάβουν» κρυφά την εταιρεία τεχνητής νοημοσύνης που τα δημιούργησε;
