Ως εκ τούτου, καλούμε όλα τα εργαστήρια τεχνητής νοημοσύνης να σταματήσουν αμέσως για τουλάχιστον 6 μήνες την εκπαίδευση συστημάτων τεχνητής νοημοσύνης πιο ισχυρών από το GPT-4 . Αυτή η παύση θα πρέπει να είναι δημόσια και επαληθεύσιμη και να περιλαμβάνει όλους τους βασικούς παράγοντες. Εάν μια τέτοια παύση δεν μπορεί να εφαρμοστεί γρήγορα, οι κυβερνήσεις θα πρέπει να παρέμβουν και να θεσπίσουν μορατόριουμ.
Τα εργαστήρια τεχνητής νοημοσύνης και οι ανεξάρτητοι εμπειρογνώμονες θα πρέπει να χρησιμοποιήσουν αυτήν την παύση για να αναπτύξουν και να εφαρμόσουν από κοινού ένα σύνολο κοινών πρωτοκόλλων ασφάλειας για προηγμένο σχεδιασμό και ανάπτυξη τεχνητής νοημοσύνης που ελέγχονται αυστηρά και επιβλέπονται από ανεξάρτητους εξωτερικούς ειδικούς. Αυτά τα πρωτόκολλα θα πρέπει να διασφαλίζουν ότι τα συστήματα που τα τηρούν είναι ασφαλή πέρα από εύλογη αμφιβολία. [4] Αυτό δεν σημαίνει παύση στην ανάπτυξη της τεχνητής νοημοσύνης γενικά, απλώς ένα βήμα πίσω από την επικίνδυνη κούρσα προς ολοένα μεγαλύτερα απρόβλεπτα μοντέλα μαύρου κουτιού με αναδυόμενες δυνατότητες.
Η έρευνα και ανάπτυξη της τεχνητής νοημοσύνης θα πρέπει να επικεντρωθεί εκ νέου στο να καταστήσει τα σημερινά ισχυρά, υπερσύγχρονα συστήματα πιο ακριβή, ασφαλή, ερμηνεύσιμα, διαφανή, ισχυρά, ευθυγραμμισμένα, αξιόπιστα και πιστά.
Παράλληλα, οι προγραμματιστές τεχνητής νοημοσύνης πρέπει να συνεργαστούν με τους υπεύθυνους χάραξης πολιτικής για να επιταχύνουν δραματικά την ανάπτυξη ισχυρών συστημάτων διακυβέρνησης τεχνητής νοημοσύνης. Αυτά θα πρέπει τουλάχιστον να περιλαμβάνουν: νέες και ικανές ρυθμιστικές αρχές αφιερωμένες στην τεχνητή νοημοσύνη. επίβλεψη και παρακολούθηση συστημάτων τεχνητής νοημοσύνης υψηλής ικανότητας και μεγάλων δεξαμενών υπολογιστικής ικανότητας· συστήματα προέλευσης και υδατοσήμανσης που βοηθούν στη διάκριση πραγματικών από συνθετικών και παρακολούθησης διαρροών μοντέλων. ένα ισχυρό οικοσύστημα ελέγχου και πιστοποίησης· ευθύνη για βλάβη που προκαλείται από AI· ισχυρή δημόσια χρηματοδότηση για την τεχνική έρευνα για την ασφάλεια της τεχνητής νοημοσύνης· και θεσμούς με επαρκείς πόρους για την αντιμετώπιση των δραματικών οικονομικών και πολιτικών αναταραχών (ειδικά στη δημοκρατία) που θα προκαλέσει η τεχνητή νοημοσύνη.
Η ανθρωπότητα μπορεί να απολαύσει ένα ακμάζον μέλλον με την τεχνητή νοημοσύνη. Έχοντας καταφέρει να δημιουργήσουμε ισχυρά συστήματα τεχνητής νοημοσύνης, μπορούμε τώρα να απολαύσουμε ένα «καλοκαίρι τεχνητής νοημοσύνης» στο οποίο αποκομίζουμε τις ανταμοιβές, σχεδιάζουμε αυτά τα συστήματα προς σαφές όφελος όλων και δίνουμε στην κοινωνία την ευκαιρία να προσαρμοστεί. Η κοινωνία έχει κάνει παύση σε άλλες τεχνολογίες με δυνητικά καταστροφικές επιπτώσεις στην κοινωνία. [5] Μπορούμε να το κάνουμε εδώ. Ας απολαύσουμε ένα μακρύ καλοκαίρι τεχνητής νοημοσύνης, μη βιαζόμαστε απροετοίμαστοι για ένα φθινόπωρο.
Πηγή: https://futureoflife.org/open-letter/pause-giant-ai-experiments/
