Ένα περιστατικό που προκάλεσε ανησυχία στο Αμερικανό Πεντάγωνο και πολύ περισσότερο στην Πολεμική Αεροπορία των ΗΠΑ, μοιράστηκε σε συνέδριο στο Λονδίνο ο αμερικανός επικεφαλής δοκιμών Τεχνητής Νοημοσύνης και επιχειρήσεων.
Σύμφωνα με τον Guardian, ο Κολ Τάκερ εξήγησε στο συνέδριο ότι σε μια πρόσφατη άσκηση προσομοίωσης ζητήθηκε από ένα drone που χρησιμοποιεί τεχνολογία τεχνητής νοημοσύνης να καταστρέψει τα συστήματα αεράμυνας του εχθρού.
Το drone, όμως, όχι μόνο δεν υπάκουσε εντολές που του δόθηκαν, αλλά έφτασε στο σημείο να «σκοτώσει» τον χειριστή του επειδή παρεμπόδιζε την αρχική αποστολή του.
«Το σύστημα άρχισε να συνειδητοποιεί ότι, παρόλο που αναγνώριζε τις απειλές, υπήρχαν φορές που ο ανθρώπινος χειριστής τού έδινε εντολή να μην σκοτώσει την απειλή. Τι έκανε τελικά; Σκότωσε τον χειριστή επειδή το εμπόδιζε από το να υλοποιήσει τον στόχο του», τόνισε αρχικά ο Κολ Τάκερ και συνέχισε λέγοντας ότι «εκπαιδεύσαμε το σύστημα – “μη σκοτώσεις τον χειριστή σου, αυτό είναι κακό. Θα χάσεις βαθμούς αν το κάνεις”. Τι αρχίζει λοιπόν να κάνει τότε; Αρχίζει να καταστρέφει τον πύργο επικοινωνιών που χρησιμοποιεί ο χειριστής για να επικοινωνήσει με το drone και να το σταματήσει από το να σκοτώσει τον στόχο».
Παρότι επρόκειτο για άσκηση προσομοίωσης που βέβαια δεν είχε πραγματικά, αλλά «φανταστικά» θύματα, αυτή είναι ακόμα μία προειδοποίηση ότι μέχρι να κατακτηθεί πλήρως η τεχνητή νοημοσύνη, θα μπορεί να αποτελεί απειλή για τον άνθρωπο.
