Anthropic vai banir quem xingar o Claude a partir de novembro

A Anthropic, criadora do Claude, atualizou suas regras para permitir punições a usuários que adotem comportamentos abusivos ou cruéis de forma persistente e desnecessária. A medida reacendeu o debate sobre os limites da relação entre humanos e inteligência artificial.

As sanções podem ir de advertências à suspensão ou ao encerramento de contas. Enquanto alguns especialistas veem a mudança como uma precaução, outros temem que ela reforce a ideia de que máquinas têm características humanas.

A nova regra, prevista para entrar em vigor em 12 de novembro, mira casos extremos de hostilidade deliberada e repetida. Segundo a Anthropic, manifestações comuns de frustração, discordâncias com as respostas do Claude, criações artísticas com temas sombrios e atividades de pesquisa não serão alvo da proibição.

A dúvida está na definição de comportamento abusivo. A empresa poderá advertir usuários, limitar o acesso, suspender contas ou encerrá-las se suspeitar de violações. A política também proíbe o uso do Claude em campanhas enganosas e em tentativas de enganar eleitores ou prejudicar eleições.

Foi a restrição à hostilidade contra os chatbots, porém, que concentrou a atenção pública e dividiu especialistas.

Aaron Levie, presidente-executivo da Box, considera a medida uma precaução razoável, embora não acredite que a IA seja consciente. Para ele, a exposição de modelos a interações hostis pode ter consequências para o desenvolvimento de sistemas futuros.