Scienze & Tecnologia

Chi ha paura dell’intelligenza artificiale?

di Silvia Martignetti

Negli ultimi giorni ha fatto scalpore la notizia che due AI (intelligenze artificiali, ndr) abbiano dialogato tra loro utilizzando un linguaggio incomprensibile ai ricercatori. Immediatamente la stampa di mezzo mondo – l’altra metà era impegnata a prospettare scenari apocalittici ben più realistici, quelli sul caldo – ha banchettato sulla notizia, condita di un sensazionalismo secondo unicamente a quello suscitato dal nuovo look di Lady Gaga. E subito giù paranoie su Skynet, HAL 9000, GLaDOS, MCP, e qualunque computerone supercattivo abbiate visto in azione al cinema o nei videogiochi.

Ma come sono andate davvero le cose?

L’esperimento è stato condotto all’interno dei laboratori FAIR, acronimo di Facebook AI Research. Due programmi, o bot, come sarebbe più accurato definirli, sono stati programmati affinché conversassero tra loro imitando la lingua umana. Lo scopo? Migliorare la comprensione del linguaggio e facilitare il suo apprendimento da parte delle AI, aggiungendosi a un immenso filone di studi che da decenni punta alla creazione di un bot capace di interagire con una persona nel modo più naturale possibile. Insomma, un po’ come se, nel perculare Cleverbot, Cortana o Siri, queste vi avessero sonoramente e meritatamente mandato a quel paese.

Come funziona l’esperimento? Tramite una tecnica chiamata GAN (Generative Adversarial Network, “rete di contraddittorio generativo”) due AI, in questo ambito chiamate “agenti”, sono programmate affinché dialoghino tra loro in modo da testare e potenziare le funzioni di autoapprendimento e interazione. Tutto, ovviamente, sotto il controllo dei ricercatori, che impostano i parametri che indirizzano la negoziazione linguistica verso un obiettivo predefinito. Nella chat tra “Alice” e “Bob”, le due AI protagoniste di questo esperimento, è improvvisamente comparso il seguente scambio:

Bob: I can i i everything else

Alice: balls have zero to me to me to me to me to me to me to me to me to 

Bob: you i everything else

Alice: balls have a ball to me to me to me to me to me to me to me to me

Cosa è successo? In parole povere, “Alice” e “Bob” hanno cominciato a ignorare le strutture grammaticali e lessicali dell’inglese, creando un dialetto che, come il linguaggio stenografico, consideravano più efficiente da un punto di vista computazionale. Ciò è stato possibile a causa di un errore dei ricercatori, che non avevano impostato i giusti parametri per incentivare le AI a rimanere entro i limiti delle regole grammaticali della lingua inglese. Spiacente per tutti i cospirazionisti del venerdì, ma quel che è accaduto altro non è che l’equivalente informatico di “petaloso”.

Non è neanche vero, in conclusione, che le AI siano state disattivate. Al contrario, i ricercatori si sono limitati ad alterare e modificare suddetti parametri in modo che i due programmi continuassero la transazione nella lingua prescelta. E, nel titolare le nostre prime pagine con toni allarmistici, abbiamo dimenticato di riportare che l’esperimento è stato un successo, come spiegano i laboratori FAIR: “Le prestazioni dell’agente di negoziazione, che utilizza il “reinforcement learning” e le successioni di dialoghi, si sono dimostrate equivalenti a quelle di un negoziatore umano; è stato provato che i bots del FAIR non solo possono parlare inglese, ma sanno anche pensare in maniera intelligente a quel che devono dire”.

Insomma, chi immaginava che avessimo imboccato  il punto di non ritorno verso scenari apocalittici da distopia fantascientifica può tranquillizzarsi e tornare a temere scie chimiche, alieni, rettiliani, vaccini che causano autismo e il chupacabras. E, se proprio non riesce a calmarsi, in apnea mentre oscure fantasie di robot conquistatori che ci schiavizzino per sterminarci uno ad uno prendono il sopravvento, può sempre consolarsi all’idea che, perlomeno, ce lo saremmo ampiamente meritato. No, eh?

Vi lascio allora con le parole di Dhruv Batra, uno dei supervisori dell’esperimento, che ha condannato i toni “irresponsabili” e “sensazionalistici” della stampa e dichiarato sul proprio profilo Facebook: “Nonostante l’idea che delle macchine che inventano un nuovo linguaggio per parlare tra loro suoni inaspettata e allarmante per chi non si occupa di Intelligenza Artificiale, in realtà si tratta di un aspetto molto ben conosciuto nel settore, con pubblicazioni in merito che sono vecchie di decenni.”

 

Fonti
No, Facebook non ha fermato la rivolta delle AI senzienti

Facebook e intelligenza artificiale: dormite sonni tranquilli. Dimenticate pure Skynet e l’Apocalisse

Annunci

Rispondi

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione / Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione / Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione / Modifica )

Google+ photo

Stai commentando usando il tuo account Google+. Chiudi sessione / Modifica )

Connessione a %s...