Η Anthropic, μία από τις ισχυρότερες εταιρείες στον χώρο της Τεχνητής Νοημοσύνης, κρούει τον κώδωνα του κινδύνου για την ανεξέλεγκτη ανάπτυξη των προηγμένων συστημάτων AI, ζητώντας ακόμη και προσωρινή επιβράδυνση της τεχνολογικής κούρσας σε παγκόσμιο επίπεδο.
Η εταιρεία που δημιούργησε το chatbot Claude εκφράζει φόβους ότι η τεχνητή νοημοσύνη πλησιάζει σε ένα σημείο καμπής, όπου θα μπορεί να βελτιώνει και να αναπτύσσει τον εαυτό της χωρίς άμεση ανθρώπινη παρέμβαση. Όπως τονίζουν στελέχη της, μια τέτοια εξέλιξη θα μπορούσε να εκτοξεύσει τις δυνατότητες των συστημάτων AI, αλλά ταυτόχρονα να δημιουργήσει σοβαρά ζητήματα ελέγχου και ασφάλειας.
Ο φόβος της «αυτοβελτίωσης»
Σε κοινό άρθρο τους, η επικεφαλής έρευνας της Anthropic, Μαρίνα Φαβάρο, και ο πρόεδρος της εταιρείας, Τζακ Κλαρκ, αναφέρουν ότι η τεχνολογία πλησιάζει στην επονομαζόμενη «επαναληπτική αυτοβελτίωση», δηλαδή στη δυνατότητα των συστημάτων να αναπτύσσουν νέες εκδόσεις του εαυτού τους με ολοένα μεγαλύτερες ικανότητες.
Οι δύο αξιωματούχοι παρομοιάζουν την παγκόσμια κούρσα ανάπτυξης της τεχνητής νοημοσύνης με έναν σύγχρονο ανταγωνισμό εξοπλισμών, υποστηρίζοντας ότι ο διαθέσιμος χρόνος για τη θέσπιση αποτελεσματικών κανόνων περιορίζεται συνεχώς.
Πρόταση για διεθνή επιβράδυνση
Η Anthropic δηλώνει ότι θα υποστήριζε μια προσωρινή παύση ή επιβράδυνση στην ανάπτυξη των πιο προηγμένων μοντέλων AI, υπό την προϋπόθεση ότι θα υπήρχε παγκόσμιος συντονισμός και δυνατότητα ελέγχου της συμμόρφωσης όλων των εμπλεκόμενων χωρών και εταιρειών.
Ωστόσο, αναγνωρίζει ότι κάτι τέτοιο είναι εξαιρετικά δύσκολο να εφαρμοστεί, κυρίως λόγω του έντονου ανταγωνισμού μεταξύ Ηνωμένων Πολιτειών και Κίνας για την τεχνολογική πρωτοκαθεδρία.
Οι ανησυχίες για το μέλλον
Ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, έχει δηλώσει στο παρελθόν ότι υπάρχει σημαντική πιθανότητα η τεχνητή νοημοσύνη να οδηγήσει σε ιδιαίτερα αρνητικές εξελίξεις εάν δεν υπάρξουν έγκαιρα μέτρα ασφαλείας.
Την ίδια στιγμή, η εταιρεία υποστηρίζει ότι η AI συμμετέχει πλέον όλο και περισσότερο στη συγγραφή κώδικα, στην παραγωγή νέων ιδεών και στον σχεδιασμό ερευνητικών διαδικασιών, γεγονός που θεωρείται από αρκετούς ειδικούς ως ένα ακόμη βήμα προς πιο αυτόνομα συστήματα.
Οι επικριτές και οι φόβοι για «φούσκα» στην AI
Παρά τις προειδοποιήσεις, αρκετοί αναλυτές εκτιμούν ότι οι εταιρείες τεχνητής νοημοσύνης ενδέχεται να υπερβάλλουν για τις δυνατότητες των συστημάτων τους, επιδιώκοντας αυστηρότερες ρυθμίσεις που θα δυσκολέψουν τον ανταγωνισμό.
Οι συζητήσεις αυτές αναζωπυρώθηκαν μετά τη σημαντική πτώση που κατέγραψαν οι μετοχές εταιρειών του κλάδου των ημιαγωγών, καθώς επανήλθαν οι ανησυχίες για ενδεχόμενη «φούσκα» γύρω από την τεχνητή νοημοσύνη και τη μελλοντική ζήτηση για τις σχετικές τεχνολογίες.
Παρά τις διαφορετικές εκτιμήσεις, ένα είναι βέβαιο: η συζήτηση για τα όρια, τους κινδύνους και τον έλεγχο της τεχνητής νοημοσύνης βρίσκεται πλέον στο επίκεντρο της παγκόσμιας τεχνολογικής ατζέντας.