Professor de IA da Universidade de Oxford Alerta sobre Riscos de Incidentes Graves com Tecnologia de Inteligência Artificial

Michael Wooldridge, renomado professor de Inteligência Artificial (IA) da Universidade de Oxford, emitiu um alerta sobre o risco iminente de um grande incidente envolvendo sistemas de IA devido à corrida da indústria de tecnologia em lançar novos produtos. Essa advertência foi feita recentemente e será detalhada na palestra do prêmio Michael Faraday da Royal Society, evento que ocorrerá na Royal Society.

O que Está por Trás do Alerta?

A competição comercial intensa e o desenvolvimento acelerado de IA estão criando um cenário onde a segurança e a confiabilidade são postas em segundo plano em relação aos interesses comerciais. Wooldridge destaca que o crescimento explosivo de chatbots e a falta de testes rigorosos antes do lançamento são exemplos claros de como a tecnologia está sendo introduzida ao público antes de ser plenamente compreendida. Os grandes modelos de linguagem usados em chatbots, que funcionam com base em probabilidades, podem induzir usuários ao engano, pois não têm consciência de seus próprios erros e apresentam respostas com alto grau de confiança.

Um incidente grave envolvendo IA poderia ter consequências drásticas, diminuindo a confiança pública na tecnologia de maneira comparável ao efeito do desastre do dirigível Hindenburg em 1937, que praticamente encerrou o interesse global por dirigíveis. Para mitigar esses riscos, Wooldridge sugere o desenvolvimento de modelos que admitam incerteza de forma clara e objetiva, reduzindo a ilusão de competência absoluta, além da realização de testes rigorosos antes do lançamento de novas tecnologias de IA e a priorização da confiabilidade e segurança sobre os interesses comerciais.

Com a tecnologia de IA avançando a passos largos, é crucial que a indústria e os reguladores trabalhem juntos para garantir que a inovação seja acompanhada de medidas de segurança adequadas. A disponibilidade e o preço dessas tecnologias variam amplamente, e seu impacto no mercado é significativo, com muitas empresas competindo por espaço. No entanto, a prioridade deve ser a segurança e a confiabilidade, para que a confiança pública na IA seja mantida e o seu potencial seja plenamente realizado.

Patrícia O. Figueiredo (pofigueiredo@acheicerto.com.br)