Οι πιο πρόσφατες συζητήσεις στη Silicon Valley, και όχι μόνο, περί επερχόμενης «αποκάλυψης» λόγω της ΑΙ, δεν προέρχονται από εξωτερικούς παρατηρητές, αλλά από τους ίδιους τους ανθρώπους που κατασκευάζουν αυτά τα συστήματα.
Τρία στελέχη της Anthropic προέβησαν πρόσφατα σε δημόσιες προειδοποιήσεις ότι τα προηγμένα συστήματα τεχνητής νοημοσύνης θα μπορούσαν να αφανίσουν την ανθρωπότητα μέσα σε λίγα χρόνια, και όχι σε αιώνες, όπως μεταδίδει το Axios.
Ο ερευνητής Jacob Coxon, ο οποίος παραιτήθηκε από την Anthropic αυτή την εβδομάδα, έγραψε ότι πολλοί από τους δημιουργούς συστημάτων τεχνητής νοημοσύνης «πιστεύουν ακράδαντα» ότι το έργο τους θα μπορούσε να θέσει τέλος στην ανθρώπινη ζωή «πριν από το τέλος της δεκαετίας», προσθέτοντας ότι τα στελέχη συχνά μετριάζουν τη ρητορική τους στις δημόσιες τοποθετήσεις, ενώ κατ' ιδίαν εκφράζουν φόβους...
«Καμία άλλη ανθρώπινη δραστηριότητα δεν ενέχει τέτοιο επίπεδο κινδύνου», έγραψε ο Coxon της Anthropic, η οποία είναι μια αμερικανική εταιρεία έρευνας, και ασφάλειας τεχνητής νοημοσύνης, με έδρα στο Σαν Φρανσίσκο, και η οποία (σύμφωνα με τα λεγόμενά της) εργάζεται για την ανάπτυξη αξιόπιστων, ερμηνεύσιμων, και ελέγξιμων συστημάτων τεχνητής νοημοσύνης.
Μιλώντας λοιπόν στη Wall Street Journal, ο Coxon προσθέτει: «Οδεύουμε προς πολλά από τα πιο ακραία σενάρια, όπου μέχρι το τέλος του επόμενου έτους η κατάσταση θα μπορούσε ήδη να έχει βγει εκτός ελέγχου».
Από την πλευρά του, ο Evan Hubinger, επικεφαλής του τομέα alignment science στην Anthropic, συμφώνησε με τον Coxon, δηλώνοντας ότι και αυτός βλέπει πιθανότητα άνω του 10% η τεχνητή νοημοσύνη να εξολοθρεύσει «όλη την ανθρωπότητα» μέσα στην επόμενη δεκαετία, και ότι η εταιρεία δεν διαθέτει σαφές σχέδιο για τη διασφάλιση της ασφάλειας των υπερ-ευφυών συστημάτων.
Παράλληλα, ο Samuel Marks, επικεφαλής του τομέα scalable oversight, σημείωσε ότι οι εν λόγω ανησυχίες τείνουν να εντείνονται όσο αυξάνεται η ιεραρχική θέση των εργαζομένων στα εργαστήρια τεχνητής νοημοσύνης… όσο πιο πολλά μαθαίνουν, δηλαδή, τόσο πιο πολύ ανησυχούν για τις άκρως επικίνδυνες παρενέργειες του ΑΙ.
Οι προειδοποιήσεις αυτών των ειδικών απηχούν πρόσφατες δηλώσεις υψηλόβαθμων στελεχών της OpenAI, συμπεριλαμβανομένου του διευθύνοντος συμβούλου Sam Altman, οι οποίοι υποστηρίζουν ότι η τεχνητή νοημοσύνη εισέρχεται με ιλιγγιώδη ταχύτητα σε μια τρομακτική φάση, που ενδέχεται να είναι αδύνατο να ελεγχθεί, σύμφωνα με το πάντα έγκυρο Axios.
Οι σκεπτικιστές πάντως, υποστηρίζουν ότι τέτοιου είδους κινδυνολογία ενισχύει τις αποτιμήσεις των εταιρειών, και εδραιώνει τη δύναμη των υφιστάμενων «παικτών» της αγοράς μέσω ρυθμίσεων που τους ευνοούν, ωστόσο δημοσιογράφοι που συνομιλούν εδώ και μήνες με άτομα εκ των έσω αναφέρουν ότι η ανησυχία φαίνεται να είναι ειλικρινής, και να αποκτά ολοένα και μεγαλύτερη σημασία για τις ρυθμιστικές αρχές, που θα πρέπει να επέμβουν όσο το δυνατό πιο σύντομα...
Όπως όμως έχει πει ο Τραμπ, δεν ανησυχεί τόσο για την εξαφάνιση της ανθρωπότητας από το ΑΙ, αλλά ανησυχεί για το αν η χώρα του χάσει τη πρωτοπορία στον αγώνα για την πλήρη επικράτηση της ΑΙ…
S.A.
Δεν υπάρχουν σχόλια:
Δημοσίευση σχολίου