Facebook è stato costretto ad arrestare uno dei suoi esperimenti di intelligenza artificiale dopo che i ricercatori hanno scoperto che due chatbot avevano iniziato a comunicare in una lingua che non riuscivano a capire. Una circostanza a dir poco singolare, che ha immediatamente evocato scenari fantascientifici, in cui le macchine riescono a sfuggire totalmente al controllo umano. Lo scorso mese gli sviluppatori di Facebook hanno lavorato, tra le altre cose, su alcuni sistemi di intelligenza artificiale (IA) capaci di dialogare tra loro in inglese e condurre semplici trattative.
A un certo punto hanno assistito a un fenomeno imprevisto: i due bot soprannominati Alice e Bob sviluppati nella divisione IA del social network stavano comunicando l'uno con l'altro in modo inaspettato. L'agente Bob scriveva ad Alice: "Io posso io io io tutto il resto..." e Alice rispondeva: "Palle hanno zero a me a me a me a me a me...". Questo potrebbe sembrare senza senso o una stringa con errori di battitura, ma i ricercatori affermano che è in realtà una sorta di stenografia. Nel mese di giugno, Facebook ha annunciato un'iniziativa alla Facebook Artificial Intelligence Research (FAIR), in cui l'azienda sta sviluppando bot che potrebbero negoziare.
I bot sono software in grado di comunicare con gli esseri umani e gli altri computer per eseguire diversi compiti, come la prenotazione di un appuntamento o consigliare un ristorante. I bot del social network erano stati lasciati a se stessi per comunicare come avevano scelto, e non era stata fornita alcuna direttiva per attenersi alla lingua inglese. Così i software avevano iniziato a deviare dal linguaggio al fine di diventare più efficaci nel "deal-making" (trattativa). In questo caso lo script era nato proprio per un errore di programmazione degli sviluppatori: quello di non aver inserito un sostegno a conservaree l'utilizzo di una lingua comprensibile agli umani.
I ricercatori avevano addestrato Alice e Bob in modo da imparare a negoziare nel modo più efficace possibile, ma non avevano raccontano ai bot che avrebbero dovuto seguire le regole della grammatica e della sintassi inglese. Per questo motivo, Alice e Bob avevano iniziato a comunicare in un modo apparentemente misterioso che era invece una forma stenografica. Questo non era nell'intenzione dei programmatori dal momento che il loro obiettivo è quello di migliorare i chat bots che alla fine interagiscono con gli esseri umani, che, ovviamente, comunicano in inglese. Così hanno regolato i loro algoritmi per produrre rapidamente una lingua simile a quella umana.
Nessun commento:
Posta un commento