«Πάγωμα» της ανάπτυξης της AI προτείνει η Anthropic ενόψει νέων ανησυχιών

Η εταιρεία τεχνητής νοημοσύνης Anthropic επανέφερε στο προσκήνιο τις ανησυχίες για τους κινδύνους της προηγμένης AI, προτείνοντας ακόμη και μια προσωρινή παγκόσμια παύση στην ανάπτυξη των πιο ισχυρών συστημάτων, ενώ ανακοίνωσε ότι σκοπεύει να φέρει στο ίδιο τραπέζι πολιτικούς, ερευνητές και εκπροσώπους της κοινωνίας των πολιτών για να συζητήσουν το ζήτημα.

Σε εκτενές κείμενο που δημοσίευσε την Πέμπτη, η εταιρεία παρουσίασε την πρόοδο του μοντέλου Claude προς αυτό που αποκαλεί «αναδρομική αυτοβελτίωση» (recursive self-improvement): την ικανότητα δηλαδή ενός συστήματος τεχνητής νοημοσύνης να συμβάλλει στη δημιουργία όλο και πιο εξελιγμένων εκδόσεων του εαυτού του.

Η συγκεκριμένη προοπτική αποτελεί εδώ και χρόνια βασική ανησυχία για πολλούς ερευνητές της ασφάλειας της AI, καθώς θεωρείται ένα πιθανό βήμα προς τη δημιουργία υπερνοήμονος τεχνητής νοημοσύνης, η οποία θα μπορούσε να λειτουργεί πέρα από τον ανθρώπινο έλεγχο.

Σύμφωνα με την Anthropic, οι δυνατότητες του Claude παρουσιάζουν μια σταθερή ανοδική πορεία που, εφόσον συνεχιστεί και συνδυαστεί με επαρκείς υπολογιστικούς πόρους, θα μπορούσε κάποια στιγμή να οδηγήσει σε συστήματα ικανά να σχεδιάζουν και να αναπτύσσουν τους ίδιους τους διαδόχους τους.

Η εταιρεία προειδοποιεί ότι ένα τέτοιο ενδεχόμενο ενδέχεται να αυξήσει τον κίνδυνο απώλειας ανθρώπινου ελέγχου πάνω στα συστήματα τεχνητής νοημοσύνης.

Για τον λόγο αυτό προτείνει τη διοργάνωση συζητήσεων στις οποίες θα συμμετέχουν κυβερνήσεις, επιστήμονες, οργανώσεις της κοινωνίας των πολιτών και άλλες εταιρείες του κλάδου, με στόχο να εξεταστούν οι συνέπειες των μελλοντικών εξελίξεων στην AI.

Οι αμφιβολίες των ειδικών

Παρά τις προειδοποιήσεις της Anthropic, αρκετοί ειδικοί θεωρούν ότι η εταιρεία δεν παρουσίασε στοιχεία που να αποδεικνύουν κάποια θεαματική αλλαγή στις δυνατότητες της τεχνητής νοημοσύνης.

Ο Στίβεν Μέρντοκ, καθηγητής στο University College London, δήλωσε στον Guardian ότι η αύξηση των δυνατοτήτων των μοντέλων AI είναι πραγματική, ωστόσο δεν προκύπτει από τα δεδομένα που δημοσιοποίησε η Anthropic ότι έχει επιτευχθεί η λεγόμενη αναδρομική αυτοβελτίωση.

Όπως εξήγησε, αυτό που περιγράφει η εταιρεία είναι κυρίως η αυξανόμενη χρήση της AI για την υποβοήθηση της ανάπτυξης νέων εκδόσεων των μοντέλων της και όχι η πλήρως αυτόνομη δημιουργία διαδόχων συστημάτων.

Σύμφωνα με την Anthropic, το Claude μπορεί πλέον να συμβάλλει στον σχεδιασμό πειραμάτων, να προτείνει νέες κατευθύνσεις έρευνας και να επιταχύνει σημαντικά τη συγγραφή κώδικα.

Η εταιρεία αναφέρει μάλιστα ότι πάνω από το 80% του κώδικα που ενσωματώνεται σήμερα στα συστήματά της έχει γραφτεί από το ίδιο το Claude.

Ωστόσο, οι δραστηριότητες αυτές εξακολουθούν να πραγματοποιούνται σε αυστηρά ελεγχόμενο περιβάλλον και αφορούν κυρίως εργασίες προγραμματισμού.

Ο Μέρντοκ σημείωσε ότι οι εκκλήσεις της Anthropic για αυξημένη πολιτική εποπτεία και πιθανή προσωρινή επιβράδυνση της ανάπτυξης της AI δεν αποτελούν κάτι νέο.

«Η εταιρεία προσπαθεί να προσελκύσει την προσοχή των πολιτικών και των ρυθμιστικών αρχών σχεδόν από την ίδρυσή της», ανέφερε.

Κατά τον ίδιο, η νέα παρέμβαση λειτουργεί περισσότερο ως υπενθύμιση των ανησυχιών που εκφράζει διαχρονικά η Anthropic παρά ως ένδειξη ότι έχει συμβεί κάποια δραματική τεχνολογική εξέλιξη τις τελευταίες εβδομάδες.

Κριτική για αντιφατικά μηνύματα

Οι νέες παρεμβάσεις της Anthropic έρχονται την ώρα που η εταιρεία δέχεται κριτική για τον διπλό ρόλο που φαίνεται να επιδιώκει στον χώρο της τεχνητής νοημοσύνης.

Την ίδια εβδομάδα, δημοσίευμα των Financial Times αποκάλυψε ότι μηχανικοί της εταιρείας έχουν ενσωματωθεί στην αμερικανική Υπηρεσία Εθνικής Ασφάλειας (NSA), βοηθώντας στη χρήση του μοντέλου Mythos για επιχειρήσεις κυβερνοασφάλειας.

Η εξέλιξη αυτή προκάλεσε ερωτήματα σχετικά με το κατά πόσο συμβαδίζει με τις δημόσιες εκκλήσεις της Anthropic για επιβράδυνση της ανάπτυξης της AI και μεγαλύτερη προσοχή στους κινδύνους της τεχνολογίας.

Ο καθηγητής Στίβεν Μέρντοκ σχολίασε ότι δεν θεωρεί αντιφατική τη στάση της εταιρείας, καθώς η αντίληψη της Anthropic για την «ασφάλεια της τεχνητής νοημοσύνης» δεν περιλαμβάνει απαραίτητα περιορισμούς στη συνεργασία με κρατικούς φορείς ή υπηρεσίες πληροφοριών.

Στο μεταξύ, η εταιρεία εξακολουθεί να προκαλεί συζητήσεις γύρω από το μοντέλο Mythos, το οποίο παρουσίασε πριν από δύο μήνες χωρίς να το διαθέσει στο κοινό.

Η Anthropic είχε υποστηρίξει τότε ότι οι δυνατότητές του στον τομέα της κυβερνοασφάλειας ήταν τόσο προηγμένες ώστε η δημοσιοποίησή του θα μπορούσε να δημιουργήσει κινδύνους.

Η ανακοίνωση προσέλκυσε το ενδιαφέρον κυβερνητικών αξιωματούχων στις Ηνωμένες Πολιτείες και τη Βρετανία, αλλά και σκεπτικισμό από ορισμένους ερευνητές.

Η Χάιντι Χλάαφ, επικεφαλής επιστήμονας AI στο AI Now Institute, είχε χαρακτηρίσει την παρουσίαση του Mythos περισσότερο «κίνηση μάρκετινγκ» παρά τεχνολογική αποκάλυψη.

Η συζήτηση αποκτά ακόμη μεγαλύτερη σημασία καθώς η Anthropic προετοιμάζεται για δημόσια εγγραφή στο χρηματιστήριο, σε μια διαδικασία που σύμφωνα με δημοσιεύματα θα μπορούσε να αποτιμήσει την εταιρεία ακόμη και στο 1 τρισ. δολάρια.

Μέχρι στιγμής, η Anthropic δεν έχει σχολιάσει δημοσίως τις επικρίσεις που ακολούθησαν τη νέα της παρέμβαση.

Πηγές: lifo.gr Guardian