A Inteligência Artificial é uma ferramenta fascinante numa realidade sem volta, mas suas alucinações merecem cuidado, diz professor da FM

De acordo com especialistas, uma das principais preocupações do usuário de Inteligência Artificial deve ser com as alucinações dela. Mas ela veio para ficar. Logo, o melhor a fazer é aprender a lidar com a nova realidade em que esta tecnologia vem se tornando o divisor de águas das relações humanas nas diversas atividades. A IA alucina quando dá respostas falsas, distorce ou inventa dados, apresenta algo como verdadeiro quando é uma mistura absoluta de qualquer coisa que existe no mundo virtual.

Na medicina, a IA já é uma presença tanto nas práticas médicas quanto em sala de aula. Segundo o professor da Faculdade de Medicina da Universidade Federal de Goiás (FM-UFG), Vítor Cruz, reumatologista, doutor em Ciências da Saúde perla UFG, a IA é uma ferramenta fascinante no ensino médico e nas pesquisas, mas não podemos deixar que ela raciocine por nós, temos de estar no comando sempre, treinando-a para que ela se mantenha em seu curso, sem viagens exorbitantes.

Em primeiro lugar, diz o professor Vítor, a IA é uma grande oportunidade para nossos esquemas visuais, para o design das ideias. “Em sala de aula, é ótima para organizarmos a apresentação que torna aquele slide conteudista tradicional numa sequência bem estruturada, com figuras, gravuras, com gráficos que facilitam muito a transmissão do conhecimento para o aluno.”

Ainda em sala de aula, “a IA pode corrigir o português e o inglês para um texto científico, formatando as referências bibliográficas, que mudam para cada revista, para cada programa de pós-graduação. Ela pode ser treinada para nos felicitar nessas situações que são automatizáveis. Nestes casos, a IA ajuda demais da conta”, diz o professor. Além desses ajustes de uso e Deep Learning, há as atividades que entram na questão das simulações cirúrgicas, cirurgia robótica assistida, utilizando IA, com aprendizado por reforço, referentes às ações de Machine Learning.

Segundo o professor Vitor, em todos esses casos, a preocupação com a IA deve ser a mesma. Saber quem está no comando. “O que não podemos deixar é a Inteligência Artificial raciocinar por nós. O ser humano é o piloto. A IA é uma Ferrari que tem de ser pilotada, e não dá para entregar uma Ferrari para um menino de 13 anos sem carteira. Além disso, quem estiver no comando tem de ser um bom piloto”, analisa. No caso das aulas e das pesquisas, o bom piloto é o usuário, o pesquisador. Quando se trata da prática médica com IA, o bom piloto é o bom médico, com boa formação técnica e humanista, e domínio da ferramenta, para saber conduzir a tecnologia.

A IA amplia os horizontes do professor e do pesquisador, aumenta a capacidade e precisão na hora da cirurgia, por exemplo, mas não raciocina, diz Vítor. “Se dou uma tarefa para a IA executar, o risco de ela executar mal ou de criar alucinações, inverdades, inventar referências, é um risco absurdo. Ela não está ali para isso, não é seu papel raciocinar no meu lugar. Ela está ali para complementar, mas jamais para substituir, pensar ou executar uma tarefa sem supervisão, porque isso realmente dá ruim.”