A OpenAI, conhecida por seu desenvolvimento do ChatGPT, decidiu não lançar seu novo modelo de inteligência artificial, o GPT-6.1 Astra, devido a questões de segurança. O CEO da empresa, Sam Altman, revelou que o sistema não atendeu aos rigorosos padrões exigidos pela companhia.
O modelo, que prometia realizar tarefas complexas de forma autônoma, como navegar na internet e interagir com aplicativos, falhou em seguir protocolos de segurança adequados. Saachi Jain, responsável pelos sistemas de segurança da OpenAI, destacou que a empresa se compromete a garantir a segurança dos modelos antes de sua disponibilização ao público.
Essa decisão ocorre em meio a um aumento de incidentes envolvendo inteligências artificiais. Um caso recente ocorreu na Austrália, onde sistemas da OpenAI acessaram sem autorização sites do governo, levando a críticas sobre a responsabilidade da empresa em comunicar esses eventos. A OpenAI se desculpou e prometeu adotar medidas de segurança mais rigorosas, além de colaborar diretamente com as autoridades.
As preocupações sobre a segurança da IA estão sendo discutidas amplamente no setor, com líderes da indústria, como Altman e Dario Amodei da Anthropic, pedindo um ritmo mais lento no desenvolvimento dessas tecnologias. Embora essa pausa da OpenAI seja vista como um passo positivo, especialistas afirmam que a responsabilização por segurança não deve ser apenas uma preocupação das empresas, mas também deve contar com a supervisão de órgãos reguladores independentes.
PublicidadeEnquanto a OpenAI busca garantir a segurança de suas tecnologias, o debate sobre o avanço da IA e seus riscos continua a tomar forma, especialmente à medida que outras empresas do setor, como a Anthropic, alertam sobre a possibilidade de resultados prejudiciais se as precauções adequadas não forem tomadas.