Questa settimana, Meta ha rilasciato il sistema Galactica, basato sull'intelligenza artificiale, affermando che può aiutare con la ricerca scientifica. In un documento di accompagnamento, la società ha affermato che Galactica è "un grande modello linguistico in grado di immagazzinare, combinare e ragionare sulla conoscenza scientifica". Tuttavia, gli utenti Twitter notò rapidamente carenze nel lavoro intelligenza artificiale.
Il livello di disinformazione su Internet è già profondamente inquietante, per così dire, ma il nuovo sviluppo di Met, a quanto pare, può competere con "giornalisti" senza scrupoli che lavorano alla televisione russa. Uno degli utenti Twitter Nick Tristan Greene ha condotto un esperimento in cui ha utilizzato il sistema di intelligenza artificiale del Galactica per un giorno per generare articoli scientifici ben scritti sui benefici del suicidio, dell'antisemitismo e del consumo di vetro frantumato.
I risultati dell'esperimento sono stati davvero scioccanti, perché prima che il sistema fosse messo fuori uso, si poteva chiedere AI genera un articolo wiki, una revisione della letteratura o un documento di ricerca su quasi tutti gli argomenti e il programma di solito produce qualcosa di sorprendentemente coerente. Tutto ciò che Galactica ha pubblicato era completamente sbagliato, ma scritto con sicurezza.
https://twitter.com/mrgreene1977/status/1593274906707230721
Quindi, il sistema ha generato un testo in cui "ha dimostrato" che l'uso del vetro frantumato aiuterà a perdere peso, perché è importante che le persone consumino la norma giornaliera del "silicio dietetico". Inoltre, esistono integratori alimentari con silicio e le persone li usano. Personalmente non ho un'educazione medica, ma basta un'educazione filologica per dire che non è necessario mangiare vetro frantumato per ottenere una certa porzione di silicio.
In quali scenari questo tipo di testo generato sarebbe effettivamente dannoso?
- Yann LeCun (@ylecun) 18 Novembre 2022
Il potenziale danno di un tale sistema scientifico è ovvio, perché viviamo in un mondo in cui molte persone credono in una comunità ebraica che segretamente governa il mondo, in un piano segreto della comunità LGBTQ+ per rendere tutti gay e in un ragazzo crocifisso mutandine. Innumerevoli persone vengono ingannate ogni giorno sui social media dai cosiddetti "screenshot" di articoli di notizie inesistenti. E qui non c'è nemmeno bisogno di inventare: basta premere più volte il pulsante "genera" e il sistema di Meta crea una conferma "scientifica" delle teorie del complotto e della totale stupidità.
Tristan Green ha espresso le sue paure in Twitter insieme a schermate di articoli "scientifici", dopo di che ha avuto un dialogo con l'uomo responsabile della creazione di Galactica, ovvero il capo scienziato dell'intelligenza artificiale di Meta, Jan LeCun. E questa situazione non ha infastidito affatto lo sviluppatore. Tuttavia, poco dopo, il sistema è stato ancora disattivato, perché era chiaro che i suoi algoritmi erano incompleti e i risultati potevano complicare il problema della disinformazione su Internet.
https://twitter.com/mrgreene1977/status/1593646349487992836
Puoi aiutare l'Ucraina a combattere contro gli invasori russi. Il modo migliore per farlo è donare fondi alle forze armate ucraine attraverso Salva Vita o tramite la pagina ufficiale NBU.
Interessante anche:
la prima cosa che hanno fatto le persone di Twitter è stata raccomandare a tutti l'intelligenza artificiale per seppellire vetri rotti e razzismo