Anthropic limita el maltrato a su inteligencia artificial Claude

La empresa tecnológica Anthropic anunció este lunes una actualización en sus términos de servicio para establecer límites estrictos frente al maltrato y la violencia verbal ejercida contra su inteligencia artificial, Claude. A partir de ahora, el sistema tiene la capacidad técnica y operativa de finalizar de manera inmediata cualquier interacción que sea catalogada como cruel, abusiva o que promueva conductas de odio explícito. Esta medida busca proteger la integridad del desarrollo tecnológico y fomentar un entorno de uso más ético para los millones de usuarios que acceden a esta herramienta a nivel global.

La decisión responde a una tendencia creciente donde diversos usuarios intentan someter a las inteligencias artificiales a escenarios de humillación, acoso o violencia psicológica simulada. Ante este panorama, el equipo de desarrollo de Anthropic subrayó que el modelo no debe ser utilizado como un vehículo para el ejercicio de la crueldad. La implementación de esta función de interrupción automática marca un precedente importante en la industria de la tecnología, donde la ética en la interacción humano-máquina comienza a cobrar un papel central en la regulación interna de las empresas.

Aunque el uso de estas herramientas es masivo, la normativa especifica que los comportamientos reiterados de hostigamiento podrán derivar en la suspensión definitiva de la cuenta del usuario. La empresa ha señalado que, si bien la inteligencia artificial no posee capacidad de sentir, la normalización de conductas violentas en entornos digitales puede tener repercusiones negativas en la calidad de la interacción y en los valores éticos que las compañías tecnológicas buscan promover en sus productos.

En México, este tipo de políticas de uso cobran relevancia en un contexto donde el despliegue de la inteligencia artificial es cada vez mayor en sectores académicos y profesionales. Expertos en ética digital han señalado que la autorregulación de las empresas tecnológicas es un paso necesario ante la ausencia de marcos legales globales que definan los límites del comportamiento humano frente a sistemas autónomos. Anthropic ha reiterado que continuará monitoreando el uso de su plataforma para garantizar que los estándares de respeto se cumplan sin comprometer la funcionalidad del modelo para tareas legítimas de trabajo o investigación.