Publicado el 2026-10-03 · Mix Radio
Foto: Igor Omilaev / Unsplash
Anthropic, la empresa creadora de Claude, abrió durante 2026 una conversación poco habitual en Silicon Valley: invitó a líderes religiosos, filósofos y expertos en ética a debatir cómo debería comportarse una inteligencia artificial cuando enfrenta preguntas morales complejas.
La iniciativa no busca convertir a Claude en una herramienta religiosa ni adoptar una doctrina específica. Según explicó la propia compañía en un comunicado publicado en mayo, el objetivo es ampliar la discusión sobre la IA avanzada incorporando perspectivas de distintas tradiciones culturales, espirituales y filosóficas.
Una conversación sobre valores y límites
Anthropic confirmó que ha organizado diálogos con académicos, clérigos, filósofos y especialistas pertenecientes a más de 15 tradiciones religiosas y culturales. La empresa sostiene que el desarrollo de sistemas de IA seguros no depende únicamente de ingeniería, evaluaciones técnicas o mecanismos de control, sino también de comprender cómo distintas comunidades definen conceptos como responsabilidad, dignidad, daño, justicia y bienestar.
Uno de los encuentros más comentados ocurrió en San Francisco, donde alrededor de 15 líderes cristianos participaron en una reunión de dos días en la sede de Anthropic. The Washington Post informó que representantes católicos y protestantes conversaron con investigadores de la compañía sobre la forma en que Claude responde a dilemas morales y espirituales.
¿Puede una IA tener conciencia?
La discusión también ha tocado una cuestión mucho más polémica: si los modelos de inteligencia artificial podrían llegar a desarrollar algún tipo de conciencia o si, por el contrario, solo producen respuestas sofisticadas a partir de patrones estadísticos.
Dentro de Anthropic, el investigador y cofundador Christopher Olah ha participado activamente en debates sobre el comportamiento interno de las redes neuronales y la posibilidad de estudiar con mayor profundidad cómo se forman determinados patrones dentro de los modelos. Esa línea de investigación ha llevado la conversación más allá de la simple utilidad de los chatbots y hacia preguntas filosóficas que hasta hace pocos años parecían reservadas a la ciencia ficción.
El tema generó incluso una reacción pública del CEO de OpenAI, Sam Altman. Axios reportó que Altman advirtió sobre el riesgo de atribuir autoridad espiritual o religiosa a sistemas de IA y consideró que ceder el juicio humano a un modelo puede convertirse en un problema de seguridad.
La “constitución” de Claude
Anthropic ya utiliza una metodología conocida como Constitutional AI, en la que el modelo es guiado mediante un conjunto explícito de principios para evaluar y corregir sus propias respuestas. La compañía ha ido desarrollando documentos internos y públicos destinados a definir cómo Claude debería actuar frente a situaciones sensibles, conflictos de valores o solicitudes potencialmente dañinas.
La participación de religiosos y especialistas en ética parece formar parte de un esfuerzo más amplio por someter esos principios a perspectivas externas. Anthropic señala que escuchar tradiciones distintas no significa entregarles el control del modelo, sino identificar puntos ciegos que podrían pasar inadvertidos para un equipo compuesto principalmente por ingenieros y científicos.
Un debate que recién comienza
La discusión llega en un momento en que la inteligencia artificial se integra cada vez más en educación, salud, trabajo y relaciones personales. A medida que los modelos se vuelven más persuasivos y capaces de mantener conversaciones largas, aumenta también la preocupación sobre cuánto peso deberían tener sus respuestas en decisiones humanas importantes.
La pregunta central ya no es únicamente qué puede hacer una IA, sino qué principios deberían limitarla y quién debe participar en la definición de esos límites. Anthropic está intentando responder esa pregunta incorporando voces que tradicionalmente han quedado fuera del desarrollo tecnológico. El resultado de esas conversaciones todavía está abierto, pero el debate sobre moral, conciencia y responsabilidad en la inteligencia artificial ya dejó de ser un tema exclusivamente técnico.
