'Quando não acha a resposta, inventa': especialista explica como IA alucina

A professora Dora Kaufman, especialista em inteligência artificial, disse que modelos de linguagem como o Chat GPT tendem a "inventar" quando não encontram respostas para os questionamentos dos usuários. Durante participação no Alt Tabet, do Canal UOL, ela explicou que o fenômeno ocorre porque a IA baseia suas respostas em padrões e previsões a partir de dados estatísticos.

Kaufman explicou que a IA "inventa" a resposta a partir de um padrão e que, quanto mais popular for o tema pesquisado, maior a chance de o resultado apresentado ser verídico. "Quando a IA não acha a resposta, ele inventa aleatoriamente, mas segue um padrão. Por exemplo: se fizer uma pesquisa sobre uma grande personalidade, como o papa, ela terá resposta mais assertiva, porque depende do volume de informação da pessoa na internet para fazer a correlação".

Dora reforçou que todas as opções de IAs disponíveis "têm erro e o mais radical deles é chamado de 'alucinação' porque de fato não tem nada a ver com o perguntado" pelo usuário. "Primeiro porque é estatística, que é sempre uma probabilidade, nunca é 100%. O Chat GPT faz correlação entre palavras. Você quer perguntar sobre igreja em geral, e ele aprendeu antes quais são as palavras que mais frequentemente aparecem na internet ligadas à igreja, ou seja, quando você pede uma explicação sobre igreja ele busca estatisticamente as palavras mais conectadas a esse tema e monta uma resposta. Então a possibilidade de esse processo ter erros é muito grande".

Ela também destacou que o uso do termo IA "gera confusão porque a tendência é das pessoas compararem com a inteligência humana". "E aí se tem um problema porque nada tem a ver como a maneira como nosso cérebro funciona. A IA é toda baseada em modelo estatístico, um grande volume de dados que identifica padrões e faz previsões a partir desse grande volume de dados. E por ser estatístico, há uma possibilidade de grandes erros. É uma tecnologia extraordinária, mas é só mais um modelo estatístico".

Regulamentar IA é fundamental para proteger a democracia

Dora destacou que a IA pode representar um risco à democracia. "É uma tecnologia que aprende a partir de dados, é um sistema treinado com dados já impactados por distorções, e o maior impacto dessa distorção é sobre a democracia mesmo, porque gera um ambiente de não confiança, e um dos pilares da democracia é a confiança. Nesse ambiente, você já não sabe mais se aquela informação é verdadeira ou não. E essa é uma questão que passa por regulamentação das redes sociais, da IA. Como viver em sociedade em que não se sabe mais se a informação é verdadeira ou não? É bem complexo, por isso precisa ter regulamentação".

Especialista explica relação entre IA e meio ambiente

Kaufman apontou que a relação entre IA é meio ambiente é "paradoxal". "A IA ajuda no enfrentamento das mudanças climáticas, por exemplo, ao propiciar uma técnica de modelo estatístico capaz de lidar com grande volume de dados que ajuda os especialistas a fazerem projeções mais assertivas e essas projeções otimiza o tempo para executar uma tarefa, o que é benéfico para o meio ambiente. Porém, seu uso demanda alto gasto de energia e de água potável para não danificar os equipamentos, com impacto negativo no meio ambiente"..

Alt Tabet

Toda quarta, Antonio Tabet conversa com personagens importantes da política, esporte e entretenimento. Os episódios completos ficam disponíveis no Canal UOL e no YouTube do UOL.

O Canal UOL também está disponível na Claro (canal nº 549), Vivo TV (canal nº 613), Sky (canal nº 88), Oi TV (canal nº 140), TVRO Embratel (canal nº 546), Zapping (canal nº 64), Samsung TV Plus (canal nº 2074) e no UOL Play.