Σε μια ιστορική συμφωνία για την προστασία της ανθρωπότητας, κορυφαίες τεχνολογικές εταιρίες όπως η Microsoft, η OpenAI, και η Anthropic, καθώς και 13 άλλες εταιρίες, δεσμεύτηκαν να υιοθετήσουν μια νέα πολιτική για την αναχαίτιση της ανάπτυξης της Τεχνητής Νοημοσύνης (AI). Η απόφαση αυτή έρχεται ως προληπτικό μέτρο για να αποφευχθούν δυστοπικά σενάρια τύπου Terminator, όπου η AI θα μπορούσε να ξεφύγει από τον έλεγχο και να αποτελέσει απειλή για την ανθρωπότητα. Σε συνεργασία με διάφορες κυβερνήσεις, οι εταιρίες αυτές έχουν αποφασίσει να δημιουργήσουν ένα “kill switch“, το οποίο θα επιτρέψει την άμεση διακοπή της ανάπτυξης οποιουδήποτε νέου AI μοντέλου που θεωρείται επικίνδυνο.
Η συμφωνία επιτεύχθηκε κατά τη διάρκεια μιας συνάντησης στην Σεούλ, όπου εκπρόσωποι εταιριών και κυβερνήσεων συζήτησαν τα ρίσκα και τις προκλήσεις της ανάπτυξης της AI. Η νέα πολιτική στοχεύει στην αποτροπή της κυκλοφορίας AI μοντέλων που δεν μπορούν να ελεγχθούν επαρκώς. Παρά το γεγονός ότι η συμφωνία είναι ιστορική, σημειώνεται ότι δεν υπάρχουν ακόμα συγκεκριμένα κριτήρια ή καθορισμένα όρια για το τι θεωρείται “επικίνδυνο” AI.
Η ιδέα του “kill switch” αναμένεται να λειτουργήσει ως ένα κρίσιμο εργαλείο για την διατήρηση της ασφάλειας στην ανάπτυξη της AI. Στην ακραία περίπτωση που κάποιο AI μοντέλο θεωρηθεί επικίνδυνο, οι εταιρίες δεσμεύονται να σταματήσουν την ανάπτυξή του ή να μην το κυκλοφορήσουν καθόλου. Στη συμφωνία συμμετέχουν επίσης τεχνολογικοί κολοσσοί όπως οι Amazon, Google και Samsung, οι οποίοι επίσης βλέπουν την ανάγκη για προληπτικά μέτρα.
Οι ανησυχίες σχετικά με τα ρίσκα της AI ενισχύθηκαν πρόσφατα από προβλέψεις ειδικών όπως ο καθηγητής Geoffrey Hinton, ο οποίος προέβλεψε ότι η AI θα μπορούσε να αντικαταστήσει ανθρώπους σε πολλές κατηγορίες εργασίας. Αυτές οι προειδοποιήσεις ενίσχυσαν την ανάγκη για συντονισμένες δράσεις από εταιρίες και κυβερνήσεις για να εξασφαλιστεί ότι η ανάπτυξη της AI παραμένει εντός ασφαλών ορίων.
Η συμφωνία αυτή αποτελεί ένα σημαντικό βήμα προς την εξασφάλιση ενός ασφαλούς μέλλοντος για την τεχνολογία AI. Αν και υπάρχουν ακόμα πολλά να καθοριστούν, η δέσμευση των τεχνολογικών κολοσσών να πατήσουν το “κουμπί καταστροφής” εάν χρειαστεί, δείχνει την σοβαρότητα με την οποία αντιμετωπίζουν την πρόκληση της AI. Αυτό το μέτρο θα μπορούσε να αποτελέσει ένα παράδειγμα για άλλες βιομηχανίες και κυβερνήσεις που αντιμετωπίζουν παρόμοιες προκλήσεις στο μέλλον.