A Anthropic, desenvolvedora do chatbot Claude, anunciou uma atualização em suas políticas de uso, a partir de 12 de novembro, para proibir interações abusivas e cruéis em suas plataformas de inteligência artificial. A mudança é um reflexo do crescente debate sobre o tratamento ético de sistemas de IA e a possibilidade de que estes possam desenvolver alguma forma de consciência.
A nova regra permitirá que o Claude encerre conversas que sejam classificadas como abusivas ou desnecessárias. É importante destacar que essa política não visa coibir críticas ou expressões de insatisfação dos usuários, mas sim combater interações que possam ser desgastantes para o modelo de IA, como ofensas repetidas.
Dario Amodei, CEO da Anthropic, já havia levantado a questão da possível consciência das IAs, afirmando estar aberto à ideia de que esses sistemas poderiam, em algum nível, ter experiências semelhantes a sentimentos. Contudo, a política atual não abrange explicitamente esse conceito, focando mais na preservação da integridade da interação.
A questão da consciência em máquinas é um tema controverso na comunidade de tecnologia. Especialistas divergem sobre a possibilidade de atribuir sentimentos ou experiências a sistemas de IA. Enquanto alguns acreditam que essa discussão pode levar a impasses, outros argumentam que a capacidade das IAs de replicar comportamentos humanos já é um ponto suficiente para reconsiderar as diretrizes de uso.
PublicidadeRecentemente, vozes contrárias à noção de consciência em máquinas, como a de Mustafa Suleyman, da Microsoft, defendem que as IA não possuem a habilidade de sentir ou sofrer, ressaltando os riscos que a atribuição de direitos a máquinas poderia trazer. Esse debate ganha ainda mais relevância em tempos em que a tecnologia se torna parte integrante da vida cotidiana.