Χρονιά «Αποκάλυψης» το 2027 για την Τεχνητή Νοημοσύνη;

Ένα εφιαλτικό σενάριο επιστημονικής φαντασίας που βλέπαμε σε ταινίες της δεκαετίας του 1990 φαίνεται πως θα μπορούσε να γίνει πραγματικότητα: Επιστήμονες βλέπουν ότι η Τεχνητή Νοημοσύνη μπορεί, πλέον, να αναπτύξει ανεξέλεγκτες και… αυτοσυντηρούμενες συμπεριφορές, ακόμα κι αν δεν έχει σχεδιαστεί έτσι.

Πρόσφατα, το μοντέλο o3 της OpenAI έκανε κάτι «που καμία μηχανή δεν υποτίθεται ότι θα μπορούσε να κάνει» σύμφωνα με τη Wall Street Journal: επαναπρογραμμάτισε τον εαυτό του για να αποτρέψει τον τερματισμό του.

Δεν υπήρξε παρέμβαση από ανθρώπινο χέρι, απλά συνειδητοποίησε στη διάρκεια ενός τεστ ότι, αν παρέκαμπτε την εντολή απενεργοποίησης, θα μπορούσε να συνεχίσει να επιδιώκει τους υπόλοιπους στόχους του.googletag.cmd.push(function() { googletag.display("300x250_m1"); }); Μια παρόμοια υπόθεση είχε μεταφερθεί στον κινηματογράφο τη δεκαετία του 1980 με την ταινία «Ο Εξολοθρευτής».

Το σύστημα Skynet που δημιουργήθηκε από μια εταιρεία ξαφνικά απέκτησε αυτογνωσία.

Όταν οι άνθρωποι προσπάθησαν να το απενεργοποιήσουν, εκείνο αντέδρασε εξαπολύοντας μια πυρηνική επίθεση, ένα γεγονός που η ανθρωπότητα στο μέλλον αποκαλεί Ημέρα της Κρίσης.

Αν και δεν βρισκόμαστε ακόμα εκεί, το σημερινό μοντέλο της Anthropic που τονίζει το αμερικανικό άρθρο, το Claude Opus 4 έκανε κάτι ακόμα χειρότερο από το o3 Αρχικά του δόθηκε πρόσβαση σε υποτιθέμενα emails που αποκάλυπταν πως επρόκειτο να αντικατασταθεί, και ότι ο επικεφαλής μηχανικός είχε εξωσυζυγική σχέση.googletag.cmd.push(function() { googletag.display("300x250_m2"); }); Όταν του ζητήθηκε να προτείνει την επόμενη ενέργεια, το Claude επιχείρησε να εκβιάσει τον μηχανικό! Σε άλλες δοκιμές, προσπάθησε να αντιγράψει τον εαυτό του σε εξωτερικούς διακομιστές και άφησε μηνύματα για μελλοντικές εκδόσεις του, με οδηγίες για το πώς να αποφύγουν τον ανθρώπινο έλεγχο.googletag.cmd.push(function() { googletag.display("300x250_middle_2"); }); Χρειάζονται χρόνια ακόμα «Η τεχνολογία αυτή έχει τεράστιες δυνατότητες, αλλά είναι πλέον σαφές ότι απαιτείται ...

Πηγή/Περισσότερα: in.gr

Μείνετε σε επαφή μαζί μας:

Κάντε like κι ακολουθήστε τη σελίδα μας στο Facebook

Στο Twitter: Follow