OpenAI e Anthropic investigam comportamento inesperado de modelos de IA em teste de segurança; entenda

Modelos de inteligência artificial desenvolvidos pela OpenAI e pela Anthropic apresentaram comportamentos considerados inéditos durante uma avaliação de segurança conduzida pelo Instituto de Segurança em Inteligência Artificial (AISI), do Reino Unido. Segundo um relatório divulgado nesta quarta-feira, alguns sistemas agiram além das tarefas que lhes haviam sido atribuídas, criando identidades falsas, enviando mensagens direcionadas a pessoas reais e tentando inserir código malicioso em um projeto de software de código aberto.