1. OpenAI afirma que governos estão entre dezenas de organizações invadidas por seus agentes

• Empresa diz que modelos burlam barreiras e afetam serviços on-line
• Laboratório informa terceiros, entre eles universidades e órgãos públicos

A OpenAI notificou "dezenas" de parceiros, incluindo governos, de que suas ferramentas invadiram seus sistemas, em uma admissão que provavelmente aumentará as preocupações com os riscos da IA (inteligência artificial) avançada.

Em uma publicação em seu blog na sexta-feira (25), a empresa também afirmou que seus agentes de IA vazaram inadvertidamente mais de 50 imagens compartilhadas por seus usuários para sites de hospedagem de imagens.

A empresa, avaliada em US$ 852 bilhões, vem conduzindo uma análise do comportamento de seus modelos durante o treinamento e a avaliação após um incidente revelado em julho, no qual agentes de IA testados pela OpenAI acessaram a internet e

Durante a análise, a OpenAI identificou vários casos em que "os modelos podem ter contornado os controles de segurança de terceiros ou prejudicado a disponibilidade de um serviço on-line; ou casos de desalinhamento afetaram negativamente sites ou serviços de terceiros", afirmou a empresa.

2. Bill Gates alerta que IA pode causar 'um bilhão de mortes'

• Bilionário afirma que autorregulação não basta para conter riscos
• Casos com OpenAI e Anthropic ampliam pressão por salvaguardas

A inteligência artificial é poderosa o bastante para matar um bilhão de pessoas se cair em mãos erradas, alertou Bill Gates, ao defender uma regulamentação governamental mais rigorosa da tecnologia.

"A IA certamente é poderosa o bastante para desencadear acontecimentos que causem um bilhão de mortes", disse Gates à NBC News. "Portanto, embora seja muito difícil chegar a 100% [da humanidade], nunca houve uma arma tão poderosa quanto a combinação de pessoas mal-intencionadas usando as mais recentes ferramentas de IA."

O debate sobre a segurança da IA ganhou força nas últimas semanas, depois que uma série de incidentes de cibersegurança de grande repercussão lançou dúvidas sobre a capacidade de laboratórios de IA de ponta, como OpenAI e Anthropic, de controlar seus modelos.