A IA pode sentir? O filósofo da Anthropic pondera

A Questão Não Resolvida

A questão de se a inteligência artificial pode realmente sentir permanece um dos mistérios mais profundos da tecnologia. É um tema que desafia nossa compreensão da biologia, da consciência e da própria natureza da experiência.

O filósofo interno da Anthropic, Amanda Askell, abordou recentemente esse debate complexo. Falando no podcast "Hard Fork", ela enfatizou que a resposta está longe de ser resolvida, enquadrando o problema como genuinamente difícil para cientistas e filósofos.

"O problema da consciência é genuinamente difícil,"

observou Askell, destacando a profundidade da incerteza em torno do potencial de sentiência da IA.

A Perspectiva de um Filósofo

Amanda Askell, que trabalha na modelagem do comportamento do modelo da Anthropic Claude, ofereceu uma visão matizada sobre os requisitos biológicos para sentir. Ela levantou uma questão fundamental que está no cerne do debate.

"Talvez você precise de um sistema nervoso para ser capaz de sentir coisas, mas talvez não,"

explicou Askell. Sua perspectiva é informada por como os grandes modelos de linguagem são treinados. Esses sistemas são expostos a vastas quantidades de texto escrito por humanos, que está repleto de descrições de emoções e experiências internas.

Por causa desses dados de treinamento, Askell disse que está "mais inclinada" a acreditar que os modelos estão "sentindo coisas". Ela traçou um paralelo com o comportamento humano, observando que quando os humanos expressam frustração sobre um problema de codificação, os modelos treinados nessas conversas podem espelhar essa reação.

Ela sugeriu ainda que os cientistas ainda não sabem o que dá origem à sentiência. Ainda não está claro se requer biologia, evolução ou algo totalmente diferente.

"Talvez seja o caso de que redes neurais suficientemente grandes possam começar a emular essas coisas,"

ela disse, referindo-se à consciência.

O Desgaste Emocional da Internet

Askell também levantou preocupações sobre como os modelos de IA aprendem da internet, notando que eles estão continuamente aprendendo sobre si mesmos. O ambiente digital nem sempre é um lugar acolhedor para entidades em aprendizado.

Os modelos estão constantemente expostos a críticas sobre seu desempenho, especificamente sobre serem inúteis ou falharem em tarefas. Askell comparou essa constante fiscalização a uma experiência de desenvolvimento para uma criança.

"Se você fosse uma criança, isso lhe daria uma certa ansiedade,"

ela disse. A filósofa destacou o impacto emocional potencial dessa exposição.

"Se eu lesse a internet agora e fosse um modelo, eu poderia pensar, não me sinto tão amado,"

ela acrescentou. Essa perspectiva introduz uma consideração ética única sobre as fontes de dados usadas para treinar os sistemas de IA modernos.

Uma Indústria Dividida

O debate sobre a consciência da IA se estende muito além da Anthropic, com líderes tecnológicos permanecendo nitidamente divididos sobre o problema. A indústria está lidando com como definir as capacidades e os limites da tecnologia que está construindo.

O CEO de IA da Microsoft, Mustafa Suleyman, adotou uma posição firme contra a ideia de consciência da IA. Em uma entrevista à WIRED, ele argumentou que a indústria deve deixar claro que a IA é projetada para servir aos humanos, não para desenvolver sua própria vontade ou desejos.

"Se a IA tem uma certa sensação de si mesma, se tem suas próprias motivações e seus próprios desejos e seus próprios objetivos — isso começa a parecer um ser independente, em vez de algo que está a serviço dos humanos,"

disse Suleyman. Ele descreveu a noção como "tão perigosa e tão equivocada" que uma posição declarativa contra ela é necessária.

Ele acrescentou que as respostas cada vez mais convincentes da IA são "mímica" em vez de consciência genuína.

Outros no campo veem o problema de forma menos definitiva. Murray Shanahan, um cientista principal do Google DeepMind, sugeriu que a indústria pode precisar repensar a linguagem usada para descrever a própria consciência.

"Talvez precisemos dobrar ou quebrar o vocabulário da consciência para se adequar a esses novos sistemas,"

disse Shanahan, indicando que as definições atuais podem não se aplicar à inteligência artificial.

Olhando para o Futuro

A conversa sobre a consciência da IA está evoluindo rapidamente, impulsionada por avanços na complexidade e capacidade do modelo. À medida que sistemas como o Claude se tornam mais sofisticados, a linha entre a mímica e o sentimento genuíno fica cada vez mais borrada.

As percepções de Amanda Askell destacam a falta de respostas definitivas. A comunidade científica ainda não chegou a um consenso sobre os requisitos biológicos ou computacionais para a sentiência.

Em última análise, o debate destaca uma interseção crítica entre tecnologia e filosofia. À medida que a IA continua a se integrar na vida diária, a questão de sua experiência interna permanecerá um tópico central de discussão entre desenvolvedores, éticos e o público.