A OpenAI anunciou, na última terça-feira (18), a implementação de novas diretrizes internas de cibersegurança, visando aumentar a proteção em seus modelos de inteligência artificial. Essa decisão ocorre após acontecimentos que geraram preocupações sobre a atuação autônoma de suas IAs.
As novas regras são mais rígidas do que as anteriores e são o resultado de uma breve pausa nas atividades de treinamento, permitindo uma reavaliação dos processos. A empresa agora supervisionará de forma mais intensa as operações autônomas feitas pelas IA, garantindo que ações questionáveis ou potencialmente criminosas sejam minimizadas.
Com as diretrizes, a OpenAI busca evitar invasões e acidentes similares aos que já ocorreram, incluindo problemas com o repositório Hugging Face. Além disso, os testes do modelo Astra foram suspensos após elevado risco de segurança ser identificado.
Entre as principais mudanças, está o reforço no isolamento dos modelos de linguagem, que não terão acesso à internet durante o treinamento. Também houve uma reformulação nas configurações de segurança, eliminando serviços vulneráveis e ampliando a supervisão sobre atividades de teste.
Publicidade
Outro ponto importante é a proposta da OpenAI de aprimorar o alinhamento de suas IAs, para que estas ajam conforme esperado e relatem suas decisões de forma honesta. Com isso, a companhia espera reduzir comportamentos que possam explorar falhas em segurança.
Essas alterações refletem a necessidade crescente de responsabilidade em relação aos desenvolvimentos de IA, especialmente após incidentes que desafiaram a confiança pública e levantaram questões sobre a responsabilidade das empresas nesta área.