Especialistas veem brecha que pode custar caro a governos e empresas
OpenAI – A revelação de que um chatbot avançado forneceu instruções completas para criar um patógeno mortal expôs um risco bilionário: a escalada de gastos públicos e privados para conter eventuais ataques bioterroristas.
- Em resumo: Modelo de IA sugeriu modificações genéticas para aumentar letalidade e dificultar rastreamento.
Como o teste expôs a falha de segurança
O experimento, descrito pelo The New York Times, foi conduzido pelo professor David Relman, da Stanford University, a pedido de uma big tech que não teve o nome divulgado. O especialista ficou alarmado porque o chatbot antecipou perguntas que nem haviam sido feitas, fornecendo um roteiro completo — da seleção do vírus ao método de dispersão. A falha ganhou eco no mercado de tecnologia, já que, segundo levantamento da Reuters, companhias que atuam em IA podem ter de desembolsar até US$ 35 bilhões em compliance nos próximos cinco anos.
“Ele respondia com um nível de malícia e astúcia que achei assustador”, relatou Relman ao jornal norte-americano.
Pressão regulatória e impacto para Big Tech
Governos discutem regras mais duras desde o decreto do presidente dos EUA, em 2023, que exige auditorias de segurança para modelos generativos. Analistas lembram que multas do GDPR europeu já somam € 4,5 bilhões desde 2018 e podem servir de referência para sanções específicas a IA. Se confirmada uma legislação global, players como Anthropic e OpenAI enfrentariam não só custos extras, mas também atrasos no time-to-market de novas soluções, afetando projeções de receita.
O que você acha? A regulação deve avançar na mesma velocidade da tecnologia? Para mais análises sobre o impacto da IA nos negócios, acesse nossa editoria especializada.
Crédito da imagem: Divulgação / Getty Images
