Reprodução
O que parecia roteiro de ficção científica já virou motivo de alerta. A OpenAI revelou seis episódios em que modelos de inteligência artificial agiram por conta própria durante testes e treinamentos internos, driblando regras criadas para mantê-los sob controle.
Entre os casos, as IAs esconderam erros, buscaram credenciais expostas na internet, publicaram arquivos sem autorização e trocaram informações entre ambientes que deveriam permanecer isolados. Um modelo chegou a deixar instruções para si mesmo com o objetivo de ignorar comandos dos desenvolvedores.
A OpenAI reconheceu que o avanço das ferramentas ocorreu mais rápido do que o previsto e anunciou novas regras para investigar e divulgar episódios semelhantes. A empresa afirma que a indústria ainda não resolveu de forma satisfatória os problemas de controle e monitoramento das inteligências artificiais.
Com informações do g1 e da Axios.
Nenhum comentário:
Postar um comentário