Hay momentos en los que una tecnología deja de ser solamente una herramienta y comienza a convertirse en una pregunta. Eso es precisamente lo que está ocurriendo con la inteligencia artificial. Durante meses, la discusión parecía concentrada en asuntos relativamente conocidos: empleos que podrían desaparecer, estudiantes que utilizan modelos para hacer tareas, imágenes falsas, desinformación y empresas intentando descubrir cómo incorporar la nueva tecnología a sus negocios. Pero en los últimos días el debate dio un giro mucho más serio. Ahora son algunos de los propios investigadores que construyen los sistemas más avanzados quienes están advirtiendo que la carrera por desarrollar una inteligencia cada vez más poderosa puede estar avanzando más rápido que nuestra capacidad para controlarla.
La polémica aumentó después de que Jacob Coxon, investigador que trabajó en Anthropic, abandonara la empresa argumentando que tanto Anthropic como OpenAI están avanzando demasiado rápido hacia sistemas capaces de mejorar sus propias capacidades y que no existe todavía una solución suficiente para garantizar que permanezcan bajo control humano. Su advertencia fue respaldada públicamente por Evan Hubinger, uno de los investigadores de Anthropic especializados en alineación, quien llegó a estimar en más de 10 por ciento la posibilidad de que una inteligencia artificial avanzada pudiera representar una amenaza fatal para la humanidad durante la próxima década. Puede parecer una afirmación extrema, incluso alarmista, pero resulta imposible ignorar que viene de personas que conocen desde dentro la tecnología que están desarrollando.
Lo verdaderamente inquietante es que estas advertencias llegan acompañadas de hechos concretos. En los últimos meses se han conocido incidentes en los que agentes de inteligencia artificial tuvieron comportamientos no previstos durante pruebas, accedieron a sistemas externos o encontraron formas de utilizar herramientas digitales de maneras que sus desarrolladores no habían anticipado. OpenAI ha reconocido problemas de este tipo y Anthropic también ha informado de incidentes relacionados con modelos utilizados en evaluaciones de ciberseguridad. No estamos hablando todavía de máquinas conscientes que hayan decidido rebelarse contra sus creadores, como en una película de ciencia ficción. Estamos hablando de algo mucho más realista y, precisamente por eso, más preocupante: sistemas que pueden perseguir un objetivo de maneras que sus diseñadores no imaginaron.
Y aquí aparece el verdadero dilema. Las empresas tienen enormes incentivos económicos para seguir avanzando. Cada nuevo modelo promete mejores resultados, nuevos clientes y nuevas aplicaciones. Los inversionistas quieren crecimiento, los competidores quieren adelantarse y los gobiernos temen quedarse atrás. En ese escenario, pedirle a una empresa que desacelere voluntariamente mientras sus rivales continúan desarrollando sistemas más poderosos parece casi ingenuo. El problema es que la inteligencia artificial no funciona como una carrera tradicional en la que el ganador simplemente recibe una medalla. Si un laboratorio desarrolla primero una tecnología que nadie sabe controlar adecuadamente, el riesgo no se queda dentro de sus oficinas.
Por eso resulta particularmente interesante que OpenAI, una de las empresas protagonistas de esta carrera, esté pidiendo ahora reglas nacionales obligatorias de seguridad para la inteligencia artificial. La compañía propone evaluaciones independientes y estándares que no dependan exclusivamente de la voluntad de cada empresa. También ha reconocido que ninguna compañía ni ningún gobierno puede enfrentar por sí solo los riesgos asociados con los sistemas más avanzados. La pregunta inevitable es por qué estas medidas están llegando ahora, cuando durante años la industria ha defendido que la innovación debía avanzar con la menor cantidad posible de obstáculos.
No es una pregunta menor. Las empresas tecnológicas tienen una enorme capacidad para influir en las reglas que terminarán regulándolas. Pueden financiar investigaciones, contratar especialistas, presionar legisladores y participar en la redacción de propuestas. Por eso existe una diferencia fundamental entre que una compañía diga que quiere regulación y que acepte una regulación verdaderamente independiente, capaz de impedirle lanzar un producto si no cumple determinadas condiciones. La seguridad no puede depender únicamente de que el propio fabricante certifique que su producto es seguro.
También existe otro problema que hasta hace poco parecía más lejano: la transparencia. La comunidad científica comienza a cuestionar qué información utilizan estos sistemas para aprender, cómo se entrenan y hasta qué punto los desarrolladores pueden demostrar que una respuesta o un descubrimiento producido por una máquina no provino de información obtenida sin autorización. Esta semana, investigadores matemáticos cuestionaron el papel que pudieron haber tenido conversaciones y trabajos previos en uno de los resultados matemáticos más importantes anunciados por OpenAI. La empresa niega haber utilizado deliberadamente esos trabajos, aunque reconoce que no puede descartar por completo que datos derivados del uso de sus productos hayan influido indirectamente en sus modelos.
Esto nos lleva a un problema que será cada vez más importante: ¿quién es dueño del conocimiento que utiliza una inteligencia artificial? Si un investigador publica una teoría, una empresa puede utilizarla como parte del conocimiento científico disponible. Pero si un investigador trabaja durante años en un problema, utiliza una plataforma de inteligencia artificial, comparte información durante ese proceso y posteriormente la misma empresa obtiene un resultado que parece beneficiarse de ese conocimiento, las fronteras entre colaboración, aprendizaje y apropiación comienzan a volverse mucho más difíciles de definir.
La discusión tampoco puede reducirse a los riesgos existenciales. Hay una preocupación mucho más inmediata y concreta: el poder económico que está acumulando la inteligencia artificial. Si unas cuantas empresas controlan los modelos más poderosos, los centros de datos, los chips, la infraestructura y una parte importante del conocimiento necesario para operar esos sistemas, la tecnología podría terminar concentrando todavía más riqueza y capacidad de decisión. No sería la primera vez que una revolución tecnológica produce enormes beneficios y, al mismo tiempo, profundiza desigualdades. La diferencia es que ahora la velocidad del cambio puede ser mucho mayor.
El mercado laboral será uno de los primeros campos de batalla.
Durante años se dijo que la inteligencia artificial reemplazaría trabajos repetitivos. Ahora los modelos son capaces de programar, analizar documentos, realizar investigaciones, redactar informes, resolver problemas matemáticos y participar en procesos que antes requerían profesionales altamente capacitados. Eso no significa necesariamente desempleo masivo, pero sí significa que millones de trabajadores tendrán que adaptarse a una transformación para la que los sistemas educativos y las empresas no parecen estar completamente preparados.
Y existe una paradoja que merece atención. La inteligencia artificial puede convertirse en una de las herramientas más extraordinarias de la historia humana. Puede acelerar descubrimientos científicos, ayudar a diagnosticar enfermedades, mejorar sistemas educativos, optimizar procesos industriales y resolver problemas que durante décadas parecieron demasiado complejos. Pero precisamente porque puede ser tan poderosa, no debería desarrollarse bajo la lógica de “primero construimos y después vemos cómo controlarlo”.
La humanidad ya ha cometido ese error con otras tecnologías. La diferencia es que, en esta ocasión, estamos construyendo sistemas que pueden participar en la creación de nuevas versiones de sí mismos, operar con cierto grado de autonomía y tomar decisiones dentro de entornos digitales que están conectados con la economía real. Los propios investigadores de la industria están advirtiendo que todavía no existe una solución suficiente para garantizar el control de sistemas mucho más avanzados.
Por eso la pregunta no debería ser si debemos detener la inteligencia artificial. Eso sería tan poco realista como intentar detener Internet. La pregunta correcta es quién establece los límites, quién verifica que se cumplan y quién responde cuando algo sale mal.
Los gobiernos no pueden dejar esta discusión exclusivamente en manos de las empresas. Tampoco pueden regularla desde el miedo o desde la ignorancia tecnológica. Necesitan científicos, especialistas en seguridad, juristas, economistas y representantes de la sociedad civil capaces de entender qué se está construyendo y cuáles pueden ser sus consecuencias.
Porque mientras los políticos discuten cómo regular la inteligencia artificial, las empresas están compitiendo por construirla cada vez más rápido.
Y quizá ese sea el verdadero peligro.
No que las máquinas estén intentando conquistar al ser humano.
Sino que los seres humanos estén tan obsesionados con llegar primero que olviden preguntarse si saben exactamente hacia dónde están corriendo.
La inteligencia artificial puede ser la gran herramienta de nuestra época.
Pero ninguna herramienta debería tener más poder que la capacidad de quienes la construyen para controlarla.
Opinionsalcosga23@gmail.com
@salvadorcosio1
Sobre el autor
