Tãoelogiada quão temida, a Inteligência Artificial – IA é também preconceituosa. Jáse verificaram equívocos judiciais, prisões injustas e até vítimas humanas. Olevantamento AIAAIC, sobre incidentes e controvérsias de inteligênciaartificial, algoritmos e automação, constatou mais de mil casos preocupantescom essa tecnologia, entre 2009 e 2023.

Oscasos foram divulgados. Steve Talley foi acusado de roubo a banco e agressãopolicial por reconhecimento facial do FBI, em 2014. Dois meses depois de preso,conseguiu provar que estava em outro lugar no momento do crime e ganhoucinquenta mil dólares de indenização do Estado.

Ocarro Tesla no piloto automático chegou a colidir com uma viatura policial naCarolina do Note, com graves danos. Outros episódios fatais já aconteceram comautomóvel dessa marca.

Em2021, um fanático tentou assassinar a Rainha Elizabeth II, depois de serencorajado por um chatbot chamado Replika. O plano de regicídio foraconsiderado pelo robô como algo “muito sábio”.

NaBélgica, um partido político socialista criou um vídeo “deepfake” de DonaldTrump, pedindo à nação que se aliasse aos Estados Unidos para deixar o acordoclimático de Paris. Isso aconteceu em 2018 enquanto em 2019, o Rio de Janeiroiniciou testes de uso de reconhecimento facial para identificar criminosos. Ataxa de erro ultrapassou 90% e de seu emprego resultaram inúmeras prisõeserrôneas e, portanto, injustas.

EmMoscou, no ano de 2020, um robô jogador de xadrez agarrou e quebrou o dedo deum competidor mirim, com apenas sete anos, durante uma partida. Isso porque ogaroto fez um movimento rápido, violando o que a técnica do xadrez consideracomo “regra de segurança”. A Federação Russa de Xadrez não informou quemfabricou o robô.

Depoisda epifania de criação do ChatGPT, lançado em 2022 e logo conquistando, nos primeirosdias, mais de cem milhões de usuários, multiplicou o número de ocorrênciasrelacionadas a processamento de textos. Os gigantes Google e Microsoft tambémlançaram chatbots com modelos de linguagem próprios e a Open AI lançou a versão4 de seu GPT. Que ainda vai continuar a surpreender o mundo. O bom é que existamfalhas! Prova de que a IA não vai superar a Inteligência Humana.

José Renato Nalini é Reitor daUNIREGISTRAL, docente da Pós-graduação da UNINOVE e Secretário-Geral daACADEMIA PAULISTA DE LETRAS.