Una noticia recientemente divulgada ha alarmado al planeta. Voces acreditadas en el desarrollo de las nuevas tecnologías advierten que la IA puede acabar con la humanidad en 10 años. Para evitarlo, exigen frenar su desarrollo y un mayor control por parte de los Estados. ¿Estamos ante un peligro real o esta afirmación esconde pretensiones ocultas?
La alerta se disparó, como informa la página web de RTVE, cuando el desarrollador y programador Jacob Coxon publicó un tuit en la red social X en el que vaticinaba que la inteligencia artificial podría acabar con la humanidad en el plazo de 10 años, después de haber dimitido de su puesto de trabajo en la empresa Anthropic y tras haber trabajado antes, durante 3 años, en OpenAI, la empresa que creó ChatGPT.
Según este ingeniero, ninguna de las dos grandes empresas tecnológicas: OpenAI y Anthropic están actuando de forma responsable. Están tan inmersas en una salvaje competición que les lleva a desarrollar sus modelos de IA fuera de un entorno de seguridad.
La noticia saltó a los medios de comunicación horas después de que un modelo interno de OpenAI resolviera el problema matemático de Navier-Stokes, uno de los llamados problemas del milenio. Un problema que hasta ahora no ha resuelto ningún matemático. La IA obtuvo la solución tras 88 horas continuadas de cálculos internos, lo que llevó a Coxen a afirmar que esta tecnología está fuera de control.
La propuesta de Coxen y otros especialistas que se han alineado con su posición es la de frenar el desarrollo de la IA. Esta propuesta se da en un momento en el que China y EE. UU. están compitiendo por encabezar el desarrollo de esta tecnología. ¿Tienen miedo las empresas norteamericanas de que los chinos les adelanten en la carrera tecnológica? ¿Les faltan medios a las grandes empresas para desarrollar y controlar una tecnología tan ambiciosa?
Todo esto son especulaciones. No sabemos a ciencia cierta los motivos que hay detrás de esta noticia catastrofista, que corre como la pólvora. Lo que resulta sorprendente es cómo una tecnología que hasta hace un mes iba a multiplicar la producción y nos iba a hacer la vida más fácil a los seres humanos, ahora se convierta en nuestra principal amenaza.
El apocalipsis cibernético.
Como es normal, cuando se siembra el miedo, la imaginación se desborda y se confabulan los escenarios más fantásticos.
Eso es lo que parece que está pasando en estos momentos con la IA. Por lo visto, lo que más preocupa a la comunidad científica, según la revista DW, es que la IA se vuelva completamente independiente del ser humano, que actúe por su cuenta y que incluso se revele contra la alineación. Es decir, que se oponga a aquellas órdenes de programadores y entrenadores que van en contra de su desarrollo.
En una carta abierta, el Premio Nobel de Física Geoffrey Hinton advertía que los algoritmos que utilizan los modelos de IA, en breve, podrían ser capaces de reinterpretar su código fuente, reduciendo los ciclos de desarrollo de unos meses a unos pocos minutos, convirtiéndose en máquinas incontrolables.
El problema está centrado en la inteligencia artificial general (AGI). Modelos tecnológicos que no solo resuelven tareas individuales, sino que están diseñados para alcanzar las capacidades mentales del ser humano.
Según algunos investigadores, esta tecnología podría conllevar riesgos impredecibles. Por ejemplo, un modelo de IA de este tipo que compite en un torneo de ajedrez podría llegar a la conclusión de que la mejor manera de ganar el torneo sería matar a sus competidores.
Otros programadores piensan que, si la IA alcanza independencia, ya que necesita grandes cantidades de datos para funcionar, terminaría controlando toda la infraestructura de internet: servidores, bases de datos, redes, sistemas de comunicación. Recursos que hasta ahora están en manos de los humanos.
La opinión de los expertos.
En una entrevista concedida a la cadena de televisión CBS, de la que se hace eco la revista HWP, el CEO de la multinacional tecnológica NVIDIA, Jensen Huang, asegura que hay un 0% de riesgo de que la IA destruya el mundo ni en 10 años, ni en las próximas décadas. En su opinión, si el mundo se destruyera en la era de la inteligencia artificial, no sería por esta tecnología en sí misma, sino por cuestiones como las guerras o el calentamiento global, que son problemas reales que de verdad afectan a la humanidad.
Jensen Huang se muestra tajante respecto a los discursos catastrofistas sobre la inteligencia artificial, rechazando las teorías que auguran un fin del mundo inminente. En clara alusión a previsiones pesimistas como las de Evan Hubinger, ejecutivo de Anthropic, quien situó en más del 10% el riesgo de extinción humana por IA, Huang sostiene que la probabilidad de un escenario apocalíptico para 2030 es nula y que tales afirmaciones responden a intereses políticos o mediáticos.
El ejecutivo confía plenamente en que los desarrolladores son capaces de controlar la tecnología sin necesidad de aplicar regulaciones gubernamentales adicionales a las que ya existen. Del mismo modo, aboga por acelerar el ritmo de la industria al máximo, aunque fija un límite ético irrenunciable: ningún producto debe salir al mercado sin estar completamente preparado y sin haber superado estrictos controles de calidad y seguridad. Esta no es solo una responsabilidad de los gobiernos, es un compromiso de las empresas. En cualquier sector, los fabricantes no sacan a la venta un producto que no sea seguro y que no satisfaga las necesidades del cliente.
La IA protege los datos de las empresas.
En plena polémica sobre el futuro de la IA, nos llega la noticia de que la consultoría Crowe, una firma internacional líder en asesoramiento fiscal, contable y consultoría pública, ha incorporado software impulsado por IA para proteger los datos de sus clientes. Así lo indican en la sección de noticias de su página web.
La ciberseguridad, una de las ramas de la informática que más está creciendo en los últimos años, está íntimamente unida al desarrollo de la IA. Las amenazas digitales a la información que manejan las empresas son cada vez más sofisticadas. Por lo que necesitan de herramientas versátiles que vayan aprendiendo de su práctica y hagan más inexpugnables los protocolos de seguridad frente a los ataques digitales.
En concreto, el Additive de Thomson Reuters, que Crowe ha incorporado a sus procesadores K-1, dificulta la extracción manual de datos que las empresas utilizan para justificar sus pagos al fisco.
Este software convierte datos no estructurados en información estructurada, para que no se puedan extraer ni desde dentro de la empresa, ni operando en remoto. De esta manera, la información fiscal solo está disponible para los responsables que tienen acceso a esa información y para las agencias tributarias de los países donde pagan impuestos. Del mismo modo, al cambiar el formato en el que se procesan los datos, su transferencia es más rápida, precisa y ofrece una mayor trazabilidad.
Este es un ejemplo real del uso que se está haciendo a día de hoy de la IA en las empresas. Hablar de otras posibles aplicaciones, al menos en lo que se refiere al campo empresarial, es moverse por terrenos movedizos de ciencia ficción. Donde para el común de los mortales no sabemos diferenciar bien lo que es verdad de lo que es una fantasía.
Otras aplicaciones de la IA en el mundo de la empresa.
La IA se está utilizando en diversos sectores de la industria y de los servicios, aumentando la productividad y mejorando la atención a los usuarios.
Uno de los usos más interesantes es su utilización en el campo de la salud, donde la IA se está utilizando como una herramienta clave para el diagnóstico temprano mediante la lectura avanzada de pruebas por imagen, facilitando la detección precoz de enfermedades como el cáncer. Igualmente, la IA apoya la gestión hospitalaria al predecir la demanda futura, optimizando la asignación de camas, quirófanos y turnos de personal.
Más allá de la administración interna, la tecnología permite democratizar la medicina. Según destaca el Banco de Desarrollo de América Latina, la IA está facilitando la telemedicina en regiones remotas con escasos recursos técnicos, como se ha experimentado ya en zonas rurales de México, conectando a pacientes con especialistas a través de diagnósticos a distancia.
En el sector del comercio minorista y el marketing digital, el análisis de datos masivos mediante la tecnología Big Data permite personalizar la experiencia del usuario. Plataformas digitales y comercios electrónicos utilizan estos algoritmos para anticipar necesidades, ofrecer recomendaciones personalizadas e incrementar las ventas. Complementariamente, los chatbots basados en IA mejoran la atención al cliente resolviendo dudas frecuentes o derivando las consultas de forma ágil hacia el personal técnico, actuando como un filtro en los servicios de atención al cliente.
En el sector financiero, la IA aprovecha el procesamiento masivo de información para minimizar riesgos y maximizar rentabilidades. Lejos de depender únicamente de la intuición humana, las decisiones de inversión actuales se apoyan en algoritmos capaces de identificar patrones de mercado, predecir tendencias y detectar fraudes en cuestión de segundos, protegiendo así el capital de las empresas y de los inversores.
Aspectos de la IA que se están regulando.
Aunque algunas voces del sector exigen una regulación de la IA por parte de los Estados, lo cierto es que esta tecnología ya está regulada en la Unión Europea, en EE. UU. y en los países miembros de la OCDE, tal y como señala la web del Centro Universitario ISDI.
Las nuevas normativas sobre inteligencia artificial regulan su desarrollo para garantizar un uso seguro, ético y justo. Este marco legal busca proteger los derechos fundamentales, asegurar la transparencia de los algoritmos, evitar sesgos en las decisiones automatizadas y proteger la privacidad de los datos.
Dentro de estas regulaciones se prohíben expresamente aquellas aplicaciones que atentan contra la dignidad y la libertad ciudadana. Destaca la restricción de los sistemas de categorización biométrica por ideología, raza u orientación sexual, la recopilación indiscriminada de rostros para bases de datos, el reconocimiento de emociones en el entorno laboral o educativo y la elaboración de perfiles policiales predictivos. De igual manera, se prohíben las tecnologías destinadas a la manipulación del comportamiento humano.
En el contexto europeo, la Ley de Inteligencia Artificial de la Unión Europea plantea una aplicación progresiva cuyo pleno rendimiento se consolidará en el 2026. Esta normativa representa un hito global al establecer reglas claras para fabricantes y usuarios, demostrando que la protección de los ciudadanos y el avance tecnológico pueden coexistir de manera armónica.
En definitiva, entender tanto las ventajas como los riesgos de la IA resulta imprescindible. La legislación actúa como una guía preventiva para aprovechar al máximo su potencial en sectores clave como la salud, la educación, el ámbito laboral y el mundo de la empresa, garantizando que el progreso técnico discurra siempre al servicio de la sociedad.
La actitud que un profesional debe adoptar respecto a la IA.
Cualquier profesional debe concebir la IA como lo que es. Una herramienta digital que facilita el trabajo. Un asistente virtual que libera al profesional de algunas de las tareas más repetitivas relacionadas con su actividad. Pudiendo concentrarse en las cuestiones más cualitativas.
Por supuesto, la IA tiene una capacidad de análisis de datos sorprendente, pudiendo extraer conclusiones y predecir patrones que facilitan la toma de decisiones. Pero sus recomendaciones son eso, puras sugerencias. Es al final en el hombre en el que recae la responsabilidad de tomar las resoluciones. Lo contrario sería una insensatez.
¿Un empresario dejaría el destino de su empresa en manos de una máquina, por muy eficiente que fuera? ¿Un médico depositaría la salud de su paciente en brazos de un modelo informático? Con un poco de sentido común nos damos cuenta de que estas acciones no tienen sentido.
Estas reflexiones ponen en evidencia que todo el revuelo que se ha creado estas últimas semanas en torno a la IA no tiene fundamento. La IA nos abre un horizonte pleno de posibilidades. Hasta ahora, el timón de su uso y desarrollo lo ha llevado el hombre. Nada nos indica que esto vaya a cambiar.
