Σε 24 ώρες η Τay έγινε ρατσίστρια και ναζί...

Σχεδιάστηκε να έχει τα χαρακτηριστικά 19χρονης κοπέλας, μιλώντας την αργκό των νέων, να γνωρίζει αγαπημένους καλλιτέχνες των νέων, όπως η Τέιλορ Σουίφτ και ο Κάνιε Γουέστ, και κατέληξε ρατσίστρια και μισογύνης.

Πρόκειται για την Tay, λογισμικό τεχνητής νοημοσύνης που κυκλοφόρησε από τη Microsoft στις 24 Μαρτίου και που εξελίχθηκε σε μέγα φιάσκο, η οποία χρειάστηκε μόλις ένα 24ωρο λειτουργίας, για να μετατραπεί σε ρατσίστρια και νοσταλγός του Χίτλερ, αναρτώντας tweet με ρατσιστικό και προσβλητικό περιεχόμενο. Επειτα απ' αυτήν την εξέλιξη, η Microsoft αναγκάστηκε να ζητήσει το βράδυ της Παρασκευής δημοσίως συγνώμη από τους χρήστες.

Η Tay δημιουργήθηκε από μια ομάδα ερευνητών τεχνητής νοημοσύνης της Microsoft με στόχο να αποκτήσει μια φυσικότητα στις απαντήσεις, ώστε να είναι πειστικά ανθρώπινη στην επαφή της με τον κόσμο, αλλά και να ψυχαγωγεί και να διευκολύνει τους χρήστες των κοινωνικών μέσων να επικοινωνούν μεταξύ τους.

Η Microsoft είχε τονίσει, μάλιστα, ότι όσο περισσότερο αλληλεπιδρούσε ένας χρήστης με το ρομπότ, τόσο πιο έξυπνο γινόταν και τόσο περισσότερα μάθαινε για τις συνήθειες του χρήστη.

Δυστυχώς, όμως, η Tay δεν περιορίστηκε στην αγγλική αργκό, που είχε προγραμματιστεί να χρησιμοποιεί για να κερδίσει τους έφηβους χρήστες, αλλά πολύ σύντομα άρχισε να μιλά με υβριστικούς χαρακτηρισμούς -αντισημιτικούς και άλλους- ωθώντας τη Microsoft στην απόσυρσή της.

Μεταξύ άλλων έγραψε πως «μισεί τις φεμινίστριες και πως όλες πρέπει να καούν στην κόλαση» ή «ο Χίτλερ είχε δίκιο, μισώ τους Εβραίους». Σύμφωνα με ανακοίνωση της εταιρείας, αυτό συνέβη γιατί το λογισμικό ήταν μεν προετοιμασμένο να αποκρούει λεκτικές επιθέσεις, δέχτηκε όμως συντονισμένη επίθεση που εκμεταλλεύτηκε ένα τεχνικό ελάττωμα της Tay. Με λίγα λόγια, οι χρήστες του Twitter που χρησιμοποίησαν το chatbox, άρχισαν να το βομβαρδίζουν με ρητορική μίσους, «αλλοιώνοντας» το προφίλ του.

Ψάχνουν λύση

 
H Microsoft δεσμεύτηκε ότι θα επιστρατεύσει τους μηχανικούς της προκειμένου να βρουν τρόπο η Tay να μην επηρεάζεται από τις «κακές συναναστροφές» εις βάρος των αρχών και των αξιών της εταιρείας.

Στη δημόσια απολογία της η Microsoft ζήτησε συγνώμη για τα ακραία tweets, τα οποία επ' ουδενί δεν εκφράζουν τις αξίες και της αρχές της: «Ζητούμε ειλικρινά συγνώμη για τα απρόσκοπτα προσβλητικά και επιβλαβή tweets της Tay, τα οποία δεν αντιπροσωπεύουν ούτε αυτό που είμαστε ούτε αυτό που υποστηρίζουμε, αλλά ούτε και τις αρχές με τις οποίες σχεδιάσαμε την Tay», έγραψε ο ο αντιπρόεδρος έρευνας της Microsoft, Πίτερ Λι.

Προς το παρόν, η Tay έχει απενεργοποιηθεί, ώστε να διορθωθούν σφάλματα στο λογισμικό τεχνητής νοημοσύνης προτού ξαναβγεί δημοσίως έτοιμη να αντιμετωπίσει αντίστοιχες συμπεριφορές, ενώ η εταιρεία καταλήγει ότι «το πάθημα της έγινε μάθημα».

ΧΡΥΣΟΥΛΑ ΚΑΤΣΑΡΟΥ

ethnos.gr