Υπάρχει τεχνητή νοημοσύνη-δολοφόνος; Σύμφωνα με την αμερικανική αεροπορία, ναι

Δεν μπορείς να μιλάς για τεχνητή νοημοσύνη, αν δεν μιλήσεις πρώτα για ηθική, ήταν το συμπέρασμα παρουσίασης σε συνέδριο για το μέλλον του αεροπορικού πολέμου

Θα μπορούσε ένα μαχητικό drone που λειτουργεί με τεχνητή νοημοσύνη να στραφεί εναντίον του δημιουργού του, για να φέρει σε πέρας την αποστολή που του ανέθεσε ο ίδιος ο δημιουργός του;

Η απάντηση είναι «ναι», σύμφωνα με όσα ανέφερε στο συνέδριο για το μέλλον του αεροπορικού πολέμου ο Κολ Τακερ «Τσίνκο» Χάμιλτον (Col Tucker ‘Cinco’ Hamilton), επικεφαλής του τμήματος Επιχειρήσεων και Δοκιμών Τεχνητής Νοημοσύνης της αμερικανικής αεροπορίας (USAF).

Ο Χάμιλτον έδωσε μια πολύ αποκαλυπτική εικόνα για τα οφέλη, αλλά και τους κινδύνους των οπλικών συστημάτων με τεχνητή νοημοσύνη (AI).

Ο ίδιος, που συμμετέχει σε δοκιμαστικές πτήσεις αυτόνομων συστημάτων, προειδοποίησε ότι δεν πρέπει να υπάρχει απόλυτη εμπιστοσύνη στα αυτόνομα συστήματα, καθώς έχουν την τάση να … αυτονομούνται και να ακολουθούν απρόβλεπτες στρατηγικές για να πετύχουν τους στόχους.

Ο Χάμιλτον παρακολούθησε την προσομοίωση αποστολής ενός AI drone, το οποίο έλαβε εντολή να καταστρέψει δίκτυο αντιαεροπορικής άμυνας με ένα σύστημα ανταμοιβής με πόντους, αν εκτελούσε την αποστολή του.

Το τελικό πράσινο φως για την επίθεση θα το έδινε άνθρωπος.

Όμως, καθώς το drone είχε δεχθεί εντολή ότι η καταστροφή του δικτύου ήταν η προτιμώμενη επιλογή, αποφάσισε ότι εάν ο άνθρωπος δεν έδινε το πράσινο φως για την επίθεση, αυτό θα εμπόδιζε στην αποστολή του.

Κι έτσι αποφάσισε να εξοντώσει πρώτα τον άνθρωπο-χειριστή του!

Στη συνέχεια το drone εκπαιδεύτηκε να μην «σκοτώνει» τον χειριστή του -«αυτό είναι κακό! Θα χάσεις πόντους αν το κάνεις αυτό».

Τι αρχίζει να κάνει λοιπόν; «Αρχίζει να καταστρέφει τον πύργο επικοινωνίας που χρησιμοποιεί ο χειριστής για να επικοινωνήσει με το drone για να το σταματήσει από το να σκοτώσει τον στόχο» είπε ο Χάμιλτον.

Αυτό το παράδειγμα, βγαλμένο από θρίλερ επιστημονικής φαντασίας, σημαίνει ότι «δεν μπορείς να συζητάς για τεχνητή νοημοσύνη αν δεν μιλάς για ηθική και τεχνητή νοημοσύνη» κατέληξε ο Χάμιλτον.

Πηγή: skai.gr

Ακολουθήστε το Agrinio2Day  στο Google News