“La inteligencia artificial podría desarrollar una voluntad propia,
en conflicto con la nuestra...
Nuestro futuro es una carrera entre el poder creciente de nuestra tecnología
y la sabiduría con que la usemos.
Cuando la inteligencia artificial supere a la nuestra
en más de lo que la nuestra supera a la de los caracoles,
Asegurémonos de que gane la sabiduría”,
reflexionó Stephen Hawking
 |
| Stephen Hawking dejó certeras reflexiones sobre la IA y la Humanidad |
El último libro de Stephen Hawking, Breves respuestas a las grandes preguntas (Ed.Crítica) se publicó en el 2018, pocos meses después de la muerte del extraordinario físico teórico y divulgador.
Aunque ChatGPT y los grandes modelos de lenguaje que han liderado la explosión de la IA generativa no existían todavía, Hawking ya dejó escritas en esa obra una serie de reflexiones certeras sobre la inteligencia artificial que, ocho años después, están completamente vigentes. El científico tenía claro que sólo es una cuestión de tiempo que la IA ponga a los humanos en términos de inteligencia en la misma posición que nosotros respecto a los animales más simples, por lo que hay que estar preparados para ese momento.
“Cuando una inteligencia artificial (IA) supere a los humanos en el diseño de más inteligencia artificial, de modo que pueda mejorarse recursivamente a sí misma sin ayuda humana, podemos enfrentarnos a una explosión de inteligencia que finalmente dé lugar a máquinas cuya inteligencia supere a la nuestra en más de lo que la nuestra supera a la de los caracoles”.
En esa posición de inferioridad, Hawking estaba convencido de que, a la larga, “la inteligencia artificial podría desarrollar una voluntad propia, en conflicto con la nuestra”.
Cabe recordar a Hawking en estos momentos, en el que asistimos a una carrera desesperada en la búsqueda de modelos con altas capacidades para desbordar nuestro mundo, tan dependiente de la tecnología que sus autores no se atreven a ponerlos, a hacerlos públicos. OpenAI ha lanzado esta semana GPT-5.6 Sol, su modelo más potente hasta la fecha, con una lista de usuarios restringida a unos 20 socios seleccionados a petición del Gobierno de Estados Unidos, en la línea de Claude Mythos de Anthropic. Este ha sido vetado incluso para entidades o especialistas que no sean estadounidenses. (¡ojo, esto no es para la humanidad, es para los americanos, pero solo para unos pocos americanos: estamos hablando más que de IA, de poder, del poder sobre el resto de los americados y de la humanidad!).
 |
| El ser humano ante la perspectiva de una inteligencia que le supere.Reve. |
GPT...Sol cuenta con una capacidad máxima de razonamiento para el pensamiento más profundo en una inteligencia artificial y un modo ultra que genera subagentes que gestionan de forma paralela tareas complejas para llegar más lejos. Las primeras pruebas publicadas apuntan a que el modelo de OpenAI supera a Mythos 5 en algunos de los tests con los que se miden las capacidades de los algoritmos. En línea con lo que reclamaba Hawking, la empresa que lidera Sam Altman ha hecho de Sol un modelo muy seguro. “Nuestro objetivo es hacer que las actividades ofensivas prohibidas resulten más difíciles, inciertas y detectables, sin limitar innecesariamente aquellos usos beneficiosos”, afirmó la compañía en un comunicado.
Paradójicamente, mientras la administración de Estados Unidos se encastilla alrededor de la IA con una clara posición de dominio, el mundo mira a su alrededor en busca de referentes. Aparecen algunos por el este. Algunos investigadores en ciberseguridad han explicado esta semana la aparición un nuevo modelo de la empresa china Zhipu AI, conocida como Z.ai, que puede igualar a los más avanzados de OpenAI y de Anthropic para detectar fallos de seguridad. El cierre de Estados Unidos de los modelos de sus empresas respecto a otros países pone a China en el foco mundial. (¡ojo, estamos en un contexto de guerra!)
“Una IA superinteligente — pronosticó Hawking — será extremadamente buena en el logro de sus objetivos, y si esos objetivos no van en la dirección de los nuestros tendremos problemas”. Con todas las ventajas que la inteligencia artificial podrá aportar en áreas como la salud, el trabajo, la educación y la ciencia, el científico reclamó “planificar por adelantado”. “Se puede imaginar que una tecnología como esta consiga burlar a los mercados financieros, sobrepasar a los investigadores humanos, manipular a líderes humanos y someternos potencialmente con armas que ni siquiera podremos entender. Aunque el impacto a corto plazo de la IA depende de quién la controla, el impacto a largo plazo depende de si se puede controlar en absoluto”.
 |
| Máquinas que mejoran máquinas de forma recursiva. Reve |
En estos albores de la IA, una de las noticias de la semana es que el gigante automovilístico Ford ha decidido contratar a 350 ingenieros con experiencia, muchos de ellos antiguos empleados, después de que sus sistemas de IA no hayan logrado los resultados que la empresa esperaba cuando empezó a despedir personas de su departamento de control de calidad. Es un claro de lo que ocurre cuando las empresas se precipitan en prescindir de las personas en espera de unos resultados que la IA no les proporciona. Un informe de la consultora PwC asegura que las empresas que utilizan la IA para potenciar su plantilla obtienen mayores beneficios que las que sustituir una gran parte de su personal por el algoritmo.
Ante el nuevo mundo prometedor que nos abre la IA, Hawking recordó que se trata de una tecnología tan poderosa que el margen de error no existe: “deberíamos planificar el futuro y tratar de hacer las cosas bien a la primera, porque puede ser la única oportunidad que tengamos”. “Nuestro futuro — señaló — es una carrera entre el poder creciente de nuestra tecnología y la sabiduría con que la usemos. Asegurémonos de que gane la sabiduría”. Ya está todo dicho.
Francisco Bracero Osuna
Licenciado en Periodismo por la UAB.
Redactor de La Vanguardia desde 1996.
.jpg)
.JPG)
