Após deixar a OpenAI, David Robinson, ex-integrante da área de segurança da empresa, fez diretas críticas à maneira como as gigantes da inteligência artificial (IA) abordam a segurança de seus sistemas. Em artigo, ele afirma que a cultura de desenvolvimento acelerado aumenta o risco de falhas.
Robinson destaca que as empresas não estão sendo ‘nem de perto cuidadosas o suficiente’ e sugere que mais espaço deve ser dado a especialistas em segurança e pesquisa antes de lançar novas tecnologias. Para ele, sistemas avançados de IA deveriam ter medidas de segurança comparáveis às adotadas em indústrias críticas, como a energia nuclear.
Um ponto específico de crítica é a prática de ‘implantação iterativa’, em que novas tecnologias são lançadas e melhorias na segurança são implementadas à medida que problemas surgem. Robinson argumenta que essa abordagem não é satisfatória, especialmente em um setor onde os erros podem ter consequências graves.
As afirmações de Robinson se somam a um crescente debate sobre a velocidade de desenvolvimento da IA. Recentemente, tanto a OpenAI quanto a concorrente Anthropic enfrentaram questionamentos após falhas em seus controles de segurança.
PublicidadeEm resposta às críticas, a OpenAI afirmou que está constantemente buscando maneiras de garantir que suas inovações não excedam sua capacidade de gerenciamento seguro. A empresa ressaltou que, sempre que necessário, pode pausar o treinamento de modelos para assegurar a segurança dos usuários.
Além disso, o alerta de Robinson sobre a rápida evolução das capacidades da IA, que supera o entendimento sobre como alinhar esses sistemas com valores humanos, reflete uma preocupação crescente com o futuro da tecnologia e seu impacto na sociedade.