Anthropic consulta filósofos y teólogos para definir la ética de Claude

La firma tecnológica Anthropic, creadora del asistente de inteligencia artificial Claude, ha iniciado una serie de consultas formales con filósofos y teólogos para definir los principios éticos que regirán el comportamiento de sus sistemas. Este esfuerzo busca dotar a la herramienta de una estructura de valores más profunda, alejándose de los modelos puramente algorítmicos para explorar conceptos como la moralidad, la responsabilidad y la toma de decisiones en contextos complejos. La iniciativa responde a la necesidad de la empresa por establecer una base sólida de seguridad antes de que la tecnología alcance niveles de autonomía superiores.

El proyecto se desarrolla en un momento donde la regulación sobre la inteligencia artificial es un tema de debate constante en el Congreso de la Unión en México y en foros internacionales. La empresa sostiene que, al involucrar a expertos en humanidades, se pretende mitigar los sesgos y riesgos inherentes a las respuestas generadas por Claude. Esta propuesta no implica que la máquina vaya a adquirir conciencia, sino que los desarrolladores buscan integrar criterios de razonamiento humano que tradicionalmente han sido abordados desde la ética aplicada y la filosofía moral.

Los especialistas invitados a estas sesiones de trabajo analizan cómo deben responder los sistemas ante dilemas donde no existe una respuesta técnica única. Anthropic busca que Claude sea capaz de navegar situaciones donde los valores entran en conflicto, priorizando siempre la seguridad del usuario y la veracidad de la información. La firma ha enfatizado que este proceso es una etapa de investigación y diseño, cuyo objetivo final es crear una guía de conducta coherente con diversos marcos de pensamiento global.

Aunque el avance tecnológico ha sido acelerado, la integración de marcos éticos representa un desafío significativo para la industria. A diferencia de las actualizaciones de software comunes, este enfoque requiere una revisión constante sobre cómo se interpretan los conceptos de bien y mal en el entorno digital. Por ahora, los resultados de estas consultas se están traduciendo en nuevas directrices internas que guían el entrenamiento de la inteligencia artificial, buscando que el asistente actúe bajo parámetros más cercanos a un razonamiento humano estructurado y responsable.