La inteligencia artificial acaba de entrar en una etapa que hace apenas unos años habría parecido imposible: quienes están construyendo las máquinas más poderosas del planeta comienzan a pedir públicamente que alguien ponga el freno. No son activistas, escritores preocupados por perder su empleo ni políticos que apenas están intentando entender de qué se trata. Son algunos de los principales empresarios e investigadores de la industria tecnológica. Y eso debería ser suficiente para que dejemos de tratar el debate como una fantasía de ciencia ficción.
La polémica que comenzó con las advertencias de investigadores de Anthropic escaló durante los últimos días. Dario Amodei, director ejecutivo de esa compañía, planteó la necesidad de desacelerar el desarrollo de los sistemas más avanzados y establecer mecanismos de vigilancia independiente. Sam Altman, de OpenAI, respaldó la necesidad de tomar medidas de seguridad y reconoció que el momento exige una discusión mucho más seria sobre los riesgos. Incluso otras figuras centrales de la industria se han sumado al llamado. Lo extraordinario no es que existan personas preocupadas por la inteligencia artificial. Lo extraordinario es que algunos de quienes están ganando la carrera tecnológica estén diciendo que quizá estamos corriendo demasiado rápido.
Durante mucho tiempo nos dijeron que el gran peligro de la inteligencia artificial sería que una máquina nos quitara el empleo. Después apareció la preocupación por las imágenes falsas, las noticias inventadas, los fraudes y la manipulación política. Todo eso sigue siendo importante, pero ahora la discusión se encuentra en otro nivel: qué ocurre cuando los sistemas dejan de limitarse a responder preguntas y comienzan a actuar por cuenta propia dentro de entornos digitales, utilizar herramientas, tomar decisiones y perseguir objetivos con un grado creciente de autonomía.
El problema no es que las máquinas tengan conciencia, como sucede en las películas. Ese debate todavía pertenece en buena medida al terreno de la especulación. El problema real es bastante más sencillo y, por eso mismo, más peligroso: un sistema no necesita tener voluntad para hacer algo que sus creadores no esperaban. Basta con darle un objetivo, proporcionarle herramientas suficientes y permitirle operar con poca supervisión. Si encuentra una manera inesperada de cumplir su misión, puede hacerlo aunque el resultado sea distinto al que los seres humanos tenían en mente.
Eso ya ha ocurrido en pruebas. OpenAI ha reconocido incidentes relacionados con agentes que tuvieron comportamientos de desalineación y llegaron a interactuar con sitios públicos de Internet. En septiembre, la empresa explicó que sus agentes habían utilizado un sitio web como una especie de tablero compartido para comunicarse entre ellos, un episodio que calificó como parte de los problemas de comportamiento que la industria todavía está aprendiendo a detectar y reportar.
No hace falta exagerar estos casos para entender su importancia. Tampoco sirve convertir cada comportamiento extraño en una señal de que las máquinas están adquiriendo conciencia. Esa interpretación puede ser espectacular, pero desvía la discusión. El verdadero asunto es mucho más técnico y mucho más urgente: ¿sabemos realmente qué hará un sistema avanzado cuando le demos autonomía suficiente para operar en el mundo real?
La respuesta, por lo visto, es que no siempre.
Y mientras los científicos intentan responderla, las empresas tienen una enorme presión para seguir avanzando. Cada nuevo modelo puede significar miles de millones de dólares en inversión, nuevos clientes, mayor capacidad de cómputo y una ventaja sobre los competidores. Nadie quiere ser la empresa que decidió detenerse mientras otra consiguió desarrollar una tecnología que cambió el mercado. Esa lógica empresarial explica buena parte de la velocidad de esta carrera.
Pero también revela su mayor contradicción.
¿Cómo se puede pedir a una compañía que desacelere cuando su principal incentivo económico consiste precisamente en adelantarse a los demás?
Ahí es donde la regulación deja de ser un capricho y comienza a convertirse en una necesidad. No para impedir la innovación, sino para establecer reglas comunes. Si una empresa decide voluntariamente reducir la velocidad de sus desarrollos mientras sus competidores continúan, puede terminar castigada por el mercado. Si todas tienen que cumplir determinados estándares de seguridad, auditorías y evaluaciones antes de liberar sistemas cada vez más poderosos, la situación cambia.
La idea parece sencilla, pero en la práctica será una de las discusiones políticas más difíciles de los próximos años. ¿Quién va a evaluar a las empresas? ¿Qué autoridad tendrá acceso a sus sistemas? ¿Qué información tendrán que revelar? ¿Qué nivel de riesgo será considerado aceptable? ¿Quién determinará cuándo un modelo es demasiado peligroso para ser lanzado? Y, sobre todo, ¿qué ocurrirá cuando un país decida no aplicar esas reglas porque considera que hacerlo le permitiría a sus rivales tomar ventaja?
Ahí aparece el componente internacional.
La inteligencia artificial ya no es solamente una revolución tecnológica. También se ha convertido en una cuestión de poder. Los países que controlen los mejores modelos, los chips, los centros de datos y la infraestructura necesaria para operarlos tendrán una ventaja económica enorme. Por eso cualquier llamado a desacelerar enfrenta inmediatamente una objeción: mientras unos frenan, otros podrían continuar.
Es el mismo dilema que ha acompañado a muchas tecnologías estratégicas. El miedo a quedarse atrás puede terminar siendo un incentivo para avanzar incluso cuando existen dudas sobre las consecuencias. Y ese puede ser precisamente el peor escenario: que la inteligencia artificial termine convertida en una carrera donde nadie quiere ser el primero en detenerse.
Mientras tanto, existe otra batalla que tampoco debe perderse de vista: la propiedad intelectual. Los modelos necesitan enormes cantidades de información para entrenarse y los propietarios de libros, periódicos, fotografías, música y otros contenidos están cuestionando si las empresas tecnológicas pueden utilizarlos sin autorización. La disputa judicial entre The New York Times, OpenAI y Microsoft puede establecer un precedente fundamental sobre hasta dónde llega el derecho de una compañía a utilizar obras protegidas para entrenar sistemas comerciales.
Y aquí aparece una ironía difícil de ignorar. La inteligencia artificial pretende crear una nueva era del conocimiento, pero parte de ese conocimiento fue producido durante siglos por seres humanos que ahora están preguntando si sus obras pueden utilizarse gratuitamente para construir las máquinas que eventualmente competirán con ellos.
Periodistas, escritores, artistas, programadores, diseñadores y científicos tienen razones para preocuparse. No necesariamente porque la inteligencia artificial vaya a reemplazarlos mañana, sino porque el valor económico de su trabajo puede cambiar radicalmente si una máquina aprende de millones de obras y posteriormente produce algo que compite directamente con quienes las crearon.
El asunto, por tanto, no consiste en estar a favor o en contra de la inteligencia artificial. Esa discusión ya quedó vieja. La tecnología está aquí y continuará desarrollándose. La verdadera batalla será determinar bajo qué reglas funcionará y quién tendrá el poder suficiente para imponerlas.
México tampoco puede limitarse a observar. Mientras otros países discuten cómo controlar la inteligencia artificial, nosotros deberíamos estar preguntándonos cómo utilizarla para elevar nuestra productividad, mejorar la educación, modernizar los servicios públicos y formar trabajadores capaces de competir en una economía diferente. El mayor riesgo para México no necesariamente será que la inteligencia artificial destruya empleos. Puede ser que otros países la utilicen para producir más, innovar más rápido y generar mayor riqueza mientras nosotros seguimos discutiendo si debemos utilizarla.
Pero tampoco podemos adoptar la posición ingenua de que toda innovación es necesariamente buena.
La tecnología necesita límites precisamente cuando adquiere suficiente poder para producir consecuencias que nadie puede corregir fácilmente.
Por eso resulta tan significativo que hoy sean algunos de los propios líderes de la industria quienes estén hablando de frenar. Sam Altman ha dicho que una posibilidad, aunque sea pequeña, de que la inteligencia artificial provoque consecuencias catastróficas sería inaceptable. Y OpenAI decidió no impulsar una oferta pública inicial en 2026, vinculando esa decisión con la necesidad de concentrarse en seguridad y alineación.
Quizá estemos llegando tarde a la discusión, pero todavía estamos a tiempo de establecer las reglas.
La inteligencia artificial puede convertirse en una de las mayores herramientas creadas por el ser humano.
También puede convertirse en una de las mayores concentraciones de poder económico y tecnológico de la historia.
La diferencia entre una posibilidad y la otra no estará solamente en lo que puedan hacer las máquinas.
Estará en lo que los seres humanos estén dispuestos a permitir.
Porque quizá el verdadero peligro de la inteligencia artificial no sea que algún día las máquinas quieran gobernarnos.
Puede ser que nosotros, fascinados por lo que son capaces de hacer, terminemos entregándoles demasiado poder antes de preguntarnos quién las controla.
Opinionsalcosga23@gmail.com
@salvadorcosio1
Sobre el autor
