Allucinazioni informatiche

Un'allucinazione del computer è un errore di interpretazione nella visione artificiale dell'intelligenza artificiale (AI) e nella tecnologia di apprendimento automatico. Le allucinazioni informatiche fanno sì che i sistemi di intelligenza artificiale classifichino erroneamente ciò che altrimenti potrebbero classificare correttamente e possono essere causati da una serie di motivi. Ad esempio, un sistema visivo può interpretare una pietra lucente come un occhio e quindi, poiché ha interpretato erroneamente quella caratteristica, continuare a interpretare erroneamente altre caratteristiche attorno alla pietra per costruire un animale. Questo tipo di interpretazione visiva errata poteva essere venduto come un servizio chiamato Google Dream. Il sogno elaborerebbe e rielaborerebbe una data immagine, reinterpretandola e migliorando le caratteristiche con il suo pregiudizio dato fino a quando queste caratteristiche non vengono inserite nei paesaggi, creando immagini che ricordano un'esperienza psichedelica.

Le allucinazioni del computer possono anche essere attivate intenzionalmente utilizzando intenzionalmente in modo improprio gli algoritmi di backpropagation normalmente utilizzati per correggere gli errori durante il processo di addestramento dell'IA. Invece di regolare i pesi per migliorare la precisione, l'immagine di origine si regola e pone maggiormente l'accento su ciò che altrimenti sarebbe classificato come risposte errate.

Le allucinazioni del computer possono essere trovate anche nei file audio. Stranamente, un segmento della Suite 1 del violoncello di Bach è stato trascritto come "Il discorso può essere incorporato nella musica" da Nicolas Carlini, un ricercatore di Google Brain.