Sam Altman: "El mundo debe aceptar cierto daño de la IA"

Sam Altman, director ejecutivo de OpenAI, ha lanzado un mensaje que no deja indiferente a nadie: el mundo debe aceptar que la IA cause cierto daño si quiere aprovechar sus enormes beneficios. Lo dijo en una entrevista con el medio político Politico para el lanzamiento de su nuevo boletín diario sobre tecnología, Decoded.

Altman fue claro: no cambiaría las ventajas de la IA a cambio de garantizar que no haya hackeos, estafas ni usos indebidos. En su opinión, la gente hará mucho más bien que mal con esta tecnología. Eso sí, puso un límite: los riesgos extremos, como perder el control sobre la IA, sí son inaceptables.

OpenAI y Anthropic no se ponen de acuerdo

El CEO también habló de las diferencias con Anthropic, la empresa creadora del asistente Claude. Hay quienes proponen que la IA más potente esté en manos de un solo laboratorio y que este reparta los beneficios. Altman rechazó esa idea de raíz, calificándola de "un intercambio completamente inaceptable". Desde Anthropic respondieron que sus normas propuestas solo afectarían a los modelos más avanzados, no a toda la IA.

Este debate llega semanas después de que Dario Amodei, jefe de Anthropic, publicara un ensayo pidiendo al sector que frene el ritmo de mejora de los modelos de IA. Altman respaldó públicamente ese llamamiento y anunció que OpenAI daría a evaluadores externos el mismo acceso que tiene su propio equipo.

¿Qué significa esto para el ciudadano de a pie?

Este debate entre los líderes de las dos empresas de IA más influyentes del mundo define las reglas del juego de una tecnología que ya afecta a millones de personas: desde los buscadores hasta los asistentes virtuales o las herramientas de trabajo. La postura de Altman implica que OpenAI apostará por mantener la IA accesible al público en general, asumiendo que habrá malos usos. Anthropic, en cambio, defiende más cautela con los sistemas más potentes.

La semana también tiene otro hito: OpenAI es una de las cuatro empresas de IA citadas para declarar bajo juramento ante el Ayuntamiento de Nueva York en una audiencia sobre seguridad en inteligencia artificial.

Lo más importante

1. Hecho principal: Sam Altman defiende que la IA puede causar daños menores y aun así merecer la pena, pero descarta los riesgos extremos.
2. Impacto relevante: La postura de OpenAI apunta a mantener la IA abierta y accesible, incluso asumiendo riesgos como estafas o hackeos.
3. A quién afecta: A cualquier persona que use herramientas de IA, ya que estas decisiones marcan cómo se regulará y distribuirá la tecnología.
4. Qué lo diferencia: OpenAI y Anthropic tienen visiones opuestas sobre quién debe controlar los modelos más avanzados.
5. Qué vigilar: La audiencia de OpenAI ante el Ayuntamiento de Nueva York y cómo evoluciona el debate regulatorio entre las grandes empresas de IA.

Fuente original: Ver noticia completa →