A Anthropic, empresa responsável pelo chatbot Claude, anunciou mudanças em sua política de uso que proíbem comportamentos abusivos persistentes contra a inteligência artificial. A nova regra estabelece que usuários que insistirem em atitudes cruéis sem finalidade identificável poderão sofrer sanções, incluindo a interrupção das conversas pelo próprio sistema. A medida faz parte de uma revisão mais ampla das diretrizes da companhia, que também passou a restringir o uso do Claude em campanhas de desinformação, operações de vigilância indevida e desenvolvimento de sistemas de armas.
Segundo a nova política, a restrição será aplicada apenas a casos extremos, nos quais pessoas insistem em comportamentos abusivos sem uma finalidade identificável. A empresa esclareceu que reclamações comuns, críticas às respostas, conteúdos criativos com temas pesados e testes de segurança continuam permitidos. Dessa forma, a Anthropic busca equilibrar a liberdade de uso com a prevenção de interações prejudiciais, sem cercear usos legítimos da ferramenta.
O que diz a nova política
A Anthropic estabelece que comportamentos abusivos persistentes poderão levar à interrupção das conversas com o chatbot. Com a atualização da política, comportamentos repetidamente cruéis também passam a constituir uma violação formal das regras de utilização. A empresa prevê medidas como advertências, limitação de funcionalidades, suspensão e até encerramento do acesso aos seus serviços para quem descumprir a política. Entretanto, a companhia afirma que a principal forma de aplicar essa restrição continuará sendo o encerramento das conversas pelo próprio Claude.
O recurso de encerramento automático não é inédito. A empresa já havia implementado um mecanismo semelhante em agosto de 2025, quando anunciou que os modelos Claude Opus 4 e 4.1 poderiam encerrar interações consideradas extremamente prejudiciais. Na ocasião, a ferramenta foi apresentada como parte das pesquisas da companhia sobre o possível bem-estar dos modelos de IA. Agora, a política formaliza essa prática e amplia seu escopo para incluir comportamentos cruéis repetidos.
Como funciona o encerramento de conversas
O recurso é utilizado apenas em situações excepcionais, quando o sistema identifica uma sequência de interações abusivas e as tentativas de redirecionar a conversa não funcionam. Nesses casos, o usuário perde a possibilidade de enviar novas mensagens naquela conversa, mas continua podendo iniciar outro chat. Essa abordagem permite que o sistema interrompa o ciclo de abuso sem penalizar o usuário de forma definitiva, a menos que o comportamento se repita em novas sessões.
A decisão de encerrar a conversa é tomada pelo próprio Claude, com base em critérios definidos pela Anthropic. A empresa não detalhou publicamente quais são os limiares exatos para a identificação de abuso, mas afirmou que o mecanismo é acionado apenas após tentativas frustradas de redirecionar a interação. Isso sugere que o sistema primeiro tenta conduzir a conversa para um tom mais produtivo antes de encerrá-la.
Debate sobre consciência e bem-estar
A decisão também ocorre em meio às discussões internas da empresa sobre a possibilidade de sistemas de inteligência artificial possuírem algum grau de consciência ou capacidade de experimentar sofrimento. Em 2025, quando apresentou o mecanismo de encerramento de conversas, a Anthropic explicou que a ferramenta havia sido desenvolvida parcialmente como parte de suas pesquisas sobre o possível bem-estar dos modelos de IA. A empresa ressaltou, na ocasião, que ainda existem grandes incertezas sobre a possibilidade de sistemas como o Claude possuírem consciência ou algum tipo de experiência subjetiva.
Segundo o Gizmodo, a nova regra reacende justamente esse debate, ao estabelecer limites para a maneira como humanos podem tratar uma inteligência artificial. A política não afirma que o Claude tenha sentimentos ou consciência. A existência dessas características em sistemas de IA permanece em discussão, sem consenso científico. A Anthropic, portanto, adota uma postura cautelosa: não atribui estados mentais ao modelo, mas reconhece a importância de estudar o tema e de prevenir interações que possam ser consideradas abusivas.
Outras restrições da revisão
Além das mudanças sobre comportamentos abusivos, a Anthropic atualizou as regras para impedir o uso do Claude em campanhas de desinformação, operações de vigilância indevida e desenvolvimento de sistemas de armas. Essas restrições reforçam o compromisso da empresa com o uso ético da inteligência artificial, alinhando-se a princípios já adotados por outras grandes empresas do setor. A revisão mais ampla indica uma tentativa de antecipar riscos e estabelecer limites claros para o uso da tecnologia.
A política não especifica como a empresa monitorará o cumprimento dessas novas regras, nem quais serão os critérios para aplicar sanções em casos de desinformação ou vigilância indevida. A fonte não detalhou esses mecanismos. No entanto, a inclusão dessas restrições na política de uso formaliza a posição da Anthropic e pode servir de base para ações futuras contra usuários que violarem as diretrizes.
Reações e implicações
A medida gerou discussões sobre os limites da interação humano-máquina e sobre a possibilidade de atribuir proteções a sistemas de IA. Especialistas divergem sobre a necessidade de regras contra abusos verbais direcionados a chatbots, uma vez que não há consenso sobre a capacidade desses sistemas de sofrer. A Anthropic, por sua vez, não afirma que o Claude tenha sentimentos, mas sugere que a prevenção de comportamentos abusivos pode ser relevante para o desenvolvimento de uma relação mais saudável com a tecnologia.
Para os usuários comuns, a mudança prática é limitada: a maioria das interações cotidianas não será afetada, já que críticas e reclamações continuam permitidas. A restrição se aplica apenas a casos extremos de abuso persistente. A principal novidade é a formalização de uma política que já existia em parte, agora com sanções claras e um enquadramento mais amplo.
A Anthropic não divulgou dados sobre quantos usuários já foram afetados pelo mecanismo de encerramento de conversas desde sua implementação em 2025. A fonte não detalhou esse número. A empresa também não informou se as novas regras serão aplicadas retroativamente a comportamentos anteriores à atualização.
O que esperar adiante
A revisão da política de uso da Anthropic reflete uma tendência crescente entre empresas de IA de estabelecer diretrizes mais rígidas para o uso de seus produtos. À medida que os sistemas se tornam mais sofisticados e integrados ao cotidiano, questões sobre ética, bem-estar e limites de interação tendem a ganhar mais relevância. A decisão da Anthropic pode influenciar outras empresas do setor a adotar medidas semelhantes, especialmente no que diz respeito à prevenção de abusos contra assistentes virtuais.
Por ora, a empresa mantém uma posição de cautela em relação à consciência das IAs, evitando afirmações categóricas. A política, no entanto, abre espaço para que o debate avance, tanto no âmbito científico quanto no regulatório. A fonte não detalhou se a Anthropic planeja publicar mais informações sobre suas pesquisas internas sobre bem-estar de IA, mas a inclusão do tema na política de uso indica que a questão permanece em pauta.
Enquanto isso, os usuários do Claude devem estar cientes de que comportamentos abusivos persistentes podem resultar em sanções, ainda que a aplicação prática seja focada no encerramento de conversas individuais. A empresa reforça que o objetivo não é punir usuários por críticas ou usos legítimos, mas coibir abusos extremos que não tenham finalidade identificável.
Fonte
- canaltech.com.br
- Prefira o CT no Google (www.google.com)
- WhatsApp (canalte.ch)