Anthropic prohíbe tratar cruel o abusivamente a Claude
Anthropic prohíbe tratar cruel o abusivamente a Claude - AFP
T13 En Vivo
Anthropic, empresa detrás de Claude, actualizó las políticas de uso y ahora sus usuarios no podrán maltratarla de manera reiterada y sin justificación.
De acuerdo a The Verge, la compañía incorporó una restricción que prohíbe el “comportamiento abusivo o cruel, sostenido e innecesario”, hacia el asistente de inteligencia artificial.
La medida forma parte de una revisión más amplia que busca evitar que las personas utilicen Claude para desarrollar armas, realizar vigilancia ilegal o manipular procesos electorales.
La nueva normativa no significa que los usuarios deban tratar a Claude de forma especial ni que puedan recibir sanciones por expresar frustración en una conversación con la IA, sino que apunta a situaciones extremas.
La empresa explicó que la medida “está destinada a aplicarse solo en casos extremos, donde los usuarios actúan repetidamente con crueldad hacia nuestros modelos, sin ningún propósito discernible”.
En agosto, Anthropic había anunciado que permitiría a Claude terminar conversaciones con usuarios persistentemente abusivos, como parte de sus investigaciones sobre el bienestar de los modelos.
La actualización también establece límites para evitar la inteligencia artificial de forma peligrosa. Entre ellos, reforzó las restricciones contra campañas de propaganda que oculten quién está detrás de los mensajes, usen cuentas falsas o intenten engañar a los votantes.
También amplió sus prohibiciones relacionadas con el desarrollo de armas y en materia de vigilancia estableció que “está prohibido rastrear a las personas sin su consentimiento, ya sea en tiempo real o mediante el análisis de datos recopilados previamente”.
¿Puede Claude "sentirse mal" según el trato del usuario?
Esta nueva normativa llega en medio de las investigaciones de Anthropic para saber si los modelos podrían desarrollar experiencias internas o alguna forma de conciencia. En febrero de este año, Dario Amode, director ejecutivo de la compañía, reconoció durante un podcast que: “No sabemos si los modelos son conscientes”.
Esta postura contrasta con la de otras empresas como Microsoft AI, que rechaza atribuir personalidad jurídica o derechos a estos sistemas.
