Filósofos entrenan IA: Google, IBM y Anthropic apuestan por la ética

Empresas como Google DeepMind, IBM y Anthropic están contratando filósofos para algo impensable hace una década: enseñar a la inteligencia artificial a pensar con responsabilidad. La IA ética —es decir, la IA diseñada para ser honesta, justa y respetuosa con los valores humanos— ha dejado de ser un debate académico para convertirse en una necesidad urgente dentro de los grandes laboratorios tecnológicos.

¿Por qué los filósofos en los laboratorios de IA?

Durante años, el desarrollo de la IA fue terreno exclusivo de ingenieros y programadores. Pero a medida que los modelos se vuelven más autónomos, sus errores tienen más consecuencias. Los especialistas en ética, lógica y epistemología (el estudio del conocimiento) están ayudando a resolver problemas concretos como sesgos en las respuestas, datos incorrectos presentados como verdaderos o exceso de confianza en información inventada —lo que se conoce como «alucinaciones»—.

El método socrático al servicio de la IA

Uno de los aportes más llamativos es el uso del método socrático —preguntar de forma encadenada para llegar a la verdad— para entrenar sistemas de IA. Este enfoque enseña a los modelos a cuestionar sus propias respuestas y a reconocer lo que no saben, reduciendo así los errores. Anthropic ha llevado esto más lejos con su concepto de «IA constitucional»: modelos que aprenden a partir de reglas éticas inspiradas en textos filosóficos y en los derechos humanos.

Un mercado laboral que cambia de forma inesperada

Este giro tiene también un efecto social visible: los graduados en filosofía están recibiendo ofertas de empleo en empresas tecnológicas antes incluso de terminar su carrera. La filosofía, considerada durante décadas una disciplina sin salida laboral clara, se ha convertido en una herramienta práctica para construir una IA más segura y fiable.

Lo más importante

1. Hecho principal: Google DeepMind, IBM y Anthropic contratan filósofos para entrenar modelos de IA más éticos y seguros.
2. Impacto relevante: Disminuyen errores como sesgos, respuestas falsas presentadas como ciertas y «alucinaciones» de los modelos.
3. A quién afecta: A cualquier persona que use herramientas de IA, ya que afecta directamente a la calidad y honestidad de sus respuestas.
4. Qué lo diferencia: Anthropic aplica una «IA constitucional» basada en principios filosóficos y derechos humanos, un enfoque pionero en el sector.
5. Qué vigilar: Si esta tendencia se extiende al resto de la industria y si los marcos éticos adoptados son transparentes y auditables.

Fuente original: Ver noticia completa →