Google: «Κουμπί πανικού» για τεχνητή νοημοσύνη εκτός ελέγχου
Ημερομηνία:
8/6/2016, 01:33 - Εμφανίσεις: 340
Για την πεÏίπτωση που η τεχνητή νοημοσÏνη βγει εκτός ελÎγχου και παλÎψει με την ανθÏωπότητα, Îνα ενδεχόμενο που θεωÏοÏν πιθανό αÏκετοί φιλόσοφοι και ειδικοί της τεχνολογίας, εÏευνητÎÏ‚ της Google Ï€ÏοσπαθοÏν να αναπτÏξουν Îνα «μεγάλο κόκκινο κουμπί» που θα διακόπτει την εχθÏική δÏαστηÏιότητα.
«Αν η τεχνητή νοημοσÏνη λειτουÏγεί σε Ï€Ïαγματικό χÏόνο υπό ανθÏώπινη επίβλεψη, μποÏεί σε κάποιες πεÏιπτώσεις να είναι απαÏαίτητο να πατήσει ο ανθÏώπινος χειÏιστής το μεγάλο κόκκινο κουμπί, ώστε να εμποδίσει τη νοημοσÏνη να συνεχίσει μια επιβλαβή αλληλουχία ενεÏγειών» γÏάφει η εÏευνητική ομάδα σε μελÎτη που δημοσιεÏεται από το ΕÏευνητικό ΙνστιτοÏτο Μηχανικής Μάθησης.
ΠαÏάδειγμα μιας Ï„Îτοιας κατάστασης θα ήταν Îνα Ïομπότ που Ï€ÏÎπει να σταματήσει τη λειτουÏγία του για να αποφευχθοÏν Ï„Ïαυματισμοί ή ζημιÎÏ‚ και απώλειες.
ΠαÏόλα αυτά, οι συντάκτες της μελÎτης Ï€ÏοειδοποιοÏν ότι η τεχνητή νοημοσÏνη «ενδÎχεται να μάθει μακÏοπÏόθεσμα πώς να αποφÏγει Ï„Îτοιες διακοπÎς».
Η ασυνήθιστη μελÎτη παÏουσιάστηκε από εÏευνητÎÏ‚ της DeepMind, μιας εταιÏείας τεχνητής νοημοσÏνης που εξαγοÏάστηκε από τη Google, σε συνεÏγασία με το Future of Humanity Institute. ΙδÏυτής του ινστιτοÏτου είναι ο φιλόσοφος Îικ ΜπόστÏομ, ο οποίος υποστήÏιζε στο βιβλίο του Superintelligence ότι ο άνθÏωπος θα τα βÏει σκοÏÏα όταν η τεχνητή νοημοσÏνη τον ξεπεÏάσει σε ικανότητα μάθησης.
ΠαÏόμοιες απόψεις Îχουν Î¼ÎµÏ„Î±Î¾Ï Î¬Î»Î»Ï‰Î½ ο βÏετανός φυσικός Στίβεν Χόκινγκ, ο δισεκατομμυÏιοÏχος επιχειÏηματίας Έλον Μασκ και ο Μπιλ ΓκÎιτς της Microsoft.
H μελÎτη πεÏιλαμβάνει Ï€Î¿Î»Ï Ï„ÎµÏ‡Î½Î¹ÎºÎÏ‚ λεπτομÎÏειες, καταλήγει όμως στην ιδÎα ότι μια δυνητικά επικίνδυνη τεχνητή νοημοσÏνη δεν θα θα μποÏοÏσε να αντιμετωπιστεί απλά Ï„Ïαβώντας το καλώδιο από την Ï€Ïίζα.
Το «κόκκινο κουμπί» θα ήταν ουσιαστικά Îνας αλγόÏιθμος που παÏεμβαίνει στα συστήματα επιβÏάβευσης που χÏησιμοποιοÏνται για την ανάπτυξη Ï€ÏογÏαμμάτων που μαθαίνουν μόνα τους.
Ουσιαστικά ο αλγόÏιθμος...
Πηγή/ΠεÏισσότεÏα: in.gr
|
|
|