Viajamos a Pamplona en busca de la inteligencia artificial general: "que la AGI nos pille cenados"

Hoy decide si Puerta Grande o Enfermería el gran Guillermo Barbadillo, a quien entrevistamos en el episodio anterior.

También participaron Carlos Fernández de Vigo, cineasta de animación nominado al Goya y CEO del Laboratorio Professor Octopus. Y Mikel Galar, profesor en la Universidad Pública de Navarra

Gracias a José Andrés Palacios y la Cámara de Comercio de Navarra por organizar el evento.

0:00 Llegamos a Navarra

5:00 Introducción a la AGI

20:04 La IA y el futuro

34:09 Puerta Grande o Enfermería

51:53 Innovación en Inteligencia Artificial

1:03:51 Algunas reflexiones

Monos estocásticos es un podcast sobre inteligencia artificial presentado por Antonio Ortiz (@antonello) y Matías S. Zavia (@matiass). Más en monosestocasticos.com

Publicado: 2 enero 2025

Ayer, a la tarde, cuando estábamos los ponentes hablando de esta jornada, la discusión, el uno y el dos, está claro que ya hemos llegado. El tres, ya lo tenemos ahí. Veréis que hay discusión dentro de los ponentes de hoy dónde estamos y en qué momento se va a llegar, y por eso hoy hemos preferido, pues crear un ambiente diferente. No queremos hacer una charlas de ponencias al hábito, sino que hemos traído a dos, para mí son dos artistas, dos comunicadores que tienen miles de seguidores, y los voy a presentar, es para mí un placer, digo, es que, como saben ellos, duermo con ellos. La mañana te pones a Antonio y a Mathe y me dicen, pero ¿qué te ríes?

Jojo es que Mathe ha contado un chiste hoy increíble. Quiero presentaros a monos estocásticos, Antonio Ortiz y Matti, un aplauso, por favor, para ellos. Matías, Savia. Matti, Matías, Savia. Es editor también en chat acá, y le apasiona el mundo de de los cohetes.

Él lo que dice así, me encantan los cohetes. Es muy pro, a veces es provelón más y a veces no, tienes ahí un poco el el momento.

Claro, oiga, me dio mucha envidia País porque publicó un titular, Elon Musk le enseña su cohete a Donald Trump, no sé, no no no sé me habría ocurrido un titular tan bueno.

Se trata hoy de esto además, queremos presentar la tecnología como lo hacen ellos, de esta manera que creo que que llega más fácil y además nos están haciendo aprender a todos de una manera muy sencilla. Así que cuando queráis y cuando lo tengan preparado

Bueno, no sé si tendrán el PowerPoint que mandé ayer a última hora, pero

Todo tuyo.

Yo lo primero que quería decir es que estamos fascinados. Yo desde el momento que entré en Navarro, que además vine por la autopista, empecé a ver esa densidad de colores cobre, rojo, naranja, y y esas dos peñas gemelas que flanquean la autopista, ya ya desde ahí empezó la fascinación. También es cierto que nos dieron de cenar un chuletón increíble, y y cinco entrantes, que no sé cómo cómo he podido despertarme esto mañana, pero cómo he podido despertarme esta mañana. Pero sobre todo estoy fascinado con el hambre que hay aquí, en la Cámara de Comercio, pero en en Navarra, en general, en la región, por qué podemos hacer para implementar la IEA, para no quedarnos atrás en nuestras empresas, ¿no? Y no me extraña ese treinta y un por ciento de PIB industrial que hay aquí, aunque solo seáis seiscientas cincuenta mil personas, ¿no?

Estoy fascinado y y siento mucha admiración ahora mismo, ¿no, Antonio?

Yo también estoy intentando de estar aquí, además, muy generoso, Sandra, al presentarnos. Tenemos una historia muy chula, creo que entre nosotros, porque, claro, nosotros somos divulgadores, al fin y al cabo, populiza Heredia, contamos la IA, luego viene la parte de las que la hacen, ¿no? Los que la investigan y y quienes la desarrollan, que son los que realmente saben, ¿no? Y la la historia feliz que tenemos entre nosotros es que uno de ellos, que que es Guillermo, que nosotros somos fanks y seguidores de de su de su trayectoria este año, pues lo unimos con José Andrés y la cámara de comercio a través del podcast, ¿no? Entonces, tiene esas pequeñas cosas de las historias de Internet, ¿no?

Y, bueno, entre la felicidad de de reunirnos con con amigos y descubrir que Pamplona no es un sitio para venir cuando estás a dieta, eso sí, pues teníamos muchas ganas de de hablar un poco de de la AGI, de lo que se viene y de lo que ya tenemos aquí, ¿no, Matías?

Pues sí, bueno, más más adelante subirán al escenario y entrevistaremos. Es que hemos conocido gente brillante aquí, Realmente aquí hay gente brillante trabajando en inteligencia artificial, como Guillermo Barbadillo, que casualmente hicimos de Celestina, ¿no? Y la cámara de comercio llegó a él a través del podcast, y bueno, y el perfil de de Carlos, de Carlos Fernández de Vigo, nos quedamos pasmados de, no, soy cineasta, nominado a los Goya, pero al mismo tiempo desarrollamos modelos fundacionales de IA porque nosotros no usamos los modelos estadounidenses, los hacemos aquí en Navarra. Bueno, más más adelante subirán. Brevemente, nosotros somos estos dos, somos los somos los monos estocásticos.

Hay gente que piensa que es inteligencia artificial, pero no, es que hace mucho frío y estamos abrigados, pero realmente por debajo somos así. Pues nada, somos un podcast de inteligencia artificial, somos los dos divulgadores y gracias a haber llegado a la inteligencia artificial, a subirnos al tren de pronto, pues es un podcast muy escuchado y muy seguido, ¿no? Y hoy vamos a hablar del tema nuclear de de este evento, que es la ágil, es la inteligencia artificial general, que es lo que va a venir, porque Antonio tiene una frase que a mí me encanta y es que, ¿quién quién iba a decir que íbamos a enseñarle a hablar a las piedras, ¿no? Refiriéndose a los chips de silicio, porque ahora programar lo que era en la universidad hasta hace diez años era una cosa muy diferente a lo que se hace ahora, que es hablarle a las máquinas directamente, ¿no? Y decirle en lenguaje natural a una máquina lo que lo que quieres que hagan.

Y con ese lenguaje, ¿quién iba a decir que íbamos a conseguir cosas que eran intrínsecamente humanas como la creatividad? Pero ¿qué viene a partir de aquí, Antonio?

Claro, todo toda esta conversación que podamos tener hoy siempre va a tener una pata en el presente, entre lo que ya es factible, en lo que es la realidad tecnológica, en lo que nos puede permitir y podemos implementar, pero la invitación de de la cámara y el enfoque de la charla es también tener una mirada al futuro. El problema del futuro es que es muy difícil de predecir, ¿no? Ya lo dijo, es que no sé si a cita si es de un de un de un Premio Nobel de física o de un futbolista que dijo que es muy difícil hacer predicciones, especialmente si son sobre el futuro. Y y me cuesta mucho siempre atribuirla, ¿no? Nosotros vamos a jugar un poco a eso, vamos a intentar presentar quiénes son los optimistas y por qué, cuáles son sus argumentos, qué defienden los escépticos.

Además, aquí Guillermo tendrá también un papel protagonista y que creo que nosotros estamos un poco más en el lado del escepticismo, pero sobre todo qué camino se nos abre y cómo tendremos que apostar por alguno de ellos. Y vamos a empezar por quiénes han pensado y han definido qué es esto de la inteligencia artificial general, que no hay mucho consenso, ni un consenso completo de a qué nos referimos cuando lo decimos.

Bueno, pues podemos empezar por estos dos que son Norbick y Russell. Ya se puede ver en el libro que muy actual no es esa portada con, bueno, touring ahí colgado, pero sobre todo con ese ordenador. Sí.

Es que es manual que usan mucho los universitarios, luego no lo puedo contar Miquel, y parte de sus funciones que tienen que dar un poco de miedo, ¿no? Si no te intimida el libro de la asignatura, pues te confías, ya vas. ¿Entiende? Tiene su función, Matthew.

Bueno, ya no es que esté consultando el WhatsApp ni nada de eso, sino que mi memoria de trabajo está frita de tanto vídeo de TikTok y y esas cosas. Entonces, voy a leer directamente cómo definen ya en este libro de los noventa la AGI, un sistema que puede realizar cualquier tarea cognitiva y de manera igual o superior a a un ser humano, ¿no? Entonces, eso es a lo que aspiran todas las empresas que están desarrollando inteligencia artificial ahora mismo a esa singularidad tecnológica que es alcanzar una capacidad humana, ¿no?

Sí, básicamente, si hay consenso en algo de las definiciones de inteligencia artificial general es esa apuesta a que intelectualmente nos igualará o nos superará en cualquier tarea, pues, de carácter intelectual o creativo, que no nos estará constreñida a un solo registro del lenguaje o a una forma de comunicación, sino solo se dedicará a la imagen, no solo se dedicará al texto, sino que será, pues, completamente como los como los seres humanos, y que además tendrá ese punto de podrá seguir aprendiendo. Entonces, hay hay un primer punto antes de que discutamos esto en términos prácticos o empresariales, que creo que es a nivel antropológico, si me permiten la expresión, ¿no? Es decir, si esto pasara, si esto llegara a suceder, que insisto, vamos a tener argumentos para ser escépticos sobre este discurso, Claro, viviríamos en un mundo en el que, como ser humano, tengo que pensar que una máquina es superior a mí en cualquier tarea intelectual. Esto realmente, claro, nos sitúa, sería, yo creo que un casi un completo cambio de era. Es decir, yo creo que tenía tendría el peso quizás más días de del giro coparnicano o del darwinismo, es decir, ya hemos aprendido en la historia de que no somos el centro del universo, de que no somos la la la obra creada minuciosamente diseñada por un ser superior, sino que somos fruto de un proceso ciego de la evolución, esté detrás una un ser trascendente o no, que es otro debate, pero esos esos dos giros nos nos sitúan al hombre como como como que nos rebaja de nuestra idea clásica.

Claro, ¿qué qué es lo que el ser humano ahora mismo piensa que tiene original, que no hay nada en la creación, que no hay nada del universo que nos iguale? Pues ese ser inteligente, ese ser creativo, ese ser artístico, ese ser ideador, bueno, si esta gente se sale con la suya, estamos en un momento de bajarnos los humos y decir, bueno, la máquina, el conjunto de chips, un conjunto de piedras, que es lo que hay aquí al fin y al cabo, me puede igualar o incluso superar.

Yo creo que vamos pillando por qué OpenAI vale ciento cincuenta mil millones de dólares y es, el clic ahora no funciona, pero os lo puedo decir a capela, si queréis. ¿Cómo define la AGI OpenAI? Un sistema altamente autónomo que supera a los humanos en la mayoría de los trabajos económicamente valiosos. Ah. Aquí las implicaciones, pues, llegan bastante lejos.

Claro, ¿por qué, digamos, OpenAI habla tanto de AGI? Porque, bueno, el nivel de negocio económico que puede tener mucha gente a día de hoy, pues, tiene un cierto alcance, es verdad que cada vez crece menos, tuvo su momento de explosión, y económicamente, como veremos, tiene su impacto. Pero la enormes inversiones que son capaces de capturar tanto ellos como el resto de la industria de inteligencia artificial vienen con esta promesa. Es decir, estamos en un camino hacia algo mucho más potente, y ese algo mucho más potente es que si conseguimos la ágil, de repente es posible automatizar muchas tareas de los empleos de cuello blanco. Es decir, hay una ganancia de productividad en toda la industria del conocimiento y la creatividad, y la vamos a conseguir nosotros.

Entonces, ahí, claro, el potencial económico es lo que seduce a todo este mundo de la inversión.

Y podrían decir ellos, bueno, pero la IA no tiene manos, ahí está Elon Musk desarrollando sus robots. Bueno, esto de OpenAI no es original, lo copiaron de Nilson, que en paz descanse y ya se decía, pues hace también décadas, ¿no? Ahora vamos con los franceses, Cholette, que conoce muy bien nuestro amigo Guillermo, ¿no?

Sí, hombre, no no podemos pisárselo porque luego se lo vamos a preguntar con él, pero es muy interesante, y luego luego lo veremos porque es uno de los grandes escépticos con todo este discurso, y y creo que nos va a iluminar mucho la la visión de de él, que es él que se ha metido a fondo,

Entonces, voy a contar mi historia favorita, que es la de OpenAI, bueno, que de OpenAI va a culebrón, a culebrón por semana últimamente. De hecho, de esa foto de Wired solo quedan Sam Alman, el segundo, y Greg Brockmann, el cuarto. Los demás se han largado y, de hecho, el primero, Iria Sus Kever, que era es el genio detrás de, el científico jefe detrás de ChatGPT ha fundado su propia empresa porque intentó un golpe de estado contra Samallmann, que aparentemente ha salido mal. Bueno, el tema es que para entrar en OpenAI no puedes ser una persona escéptica. Deliberadamente, y esto lo dicen en esta entrevista, y está ahí subrayado en amarillo, contratan a la gente que realmente cree que es posible alcanzar una inteligencia artificial general con las tecnologías que se están desarrollando ahora.

Porque no sé si ha quedado claro, pero esto estamos hablando siempre en términos muy hipotéticos, ¿no, Antonio?

Sí, a mí me recuerdas como si tú vas a entrevistarte a la Caixa y te preguntamos, bueno, ¿tú crees en la magia del Inter descompuesto? Si si en ese momento dices, no, no, eso no va conmigo, pues entonces ya te descartan, dices, no, no, lo siento aquí es, la inversión es fundamental, ¿no? Entonces, fijaros porque hay una parte que discutíamos anoche con José Andrés, tienen un poquito de culto la gente de OpenAI, es decir, de culto con un cierto salto de fe que le exigían a los empleados, decir, que en dos mil quince le exigieran a los empleados creer que si iba a conseguir la inteligencia artificial general o de nivel humano, era prácticamente un salto de fe, porque el nivel tecnológico estaba muy lejos de lo que tenemos ahora adelante. Ahora, pues, tú dices, bueno, como habla, como maneja el lenguaje y lo domina, pues creo que puede haber inteligencia y si eso lo mejoran, pues a saber a dónde llegamos. Ahora parece como más creíble y factible su hipótesis, pero en dos mil quince, dos mil dieciséis, dos mil diecisiete, sabemos por los correos filtrados en los juicios, en los juicios que tienen OPNAI, pues tienen que entregar al juez los los correos y son de observancia pública, que eran un conjunto de gente enormemente flipada, enormemente creyente en que iban a lograr esto de la inteligencia artificial general, y su punto de discusión era, tenemos que ser sin ánimo de lucro para que nadie sea tan poderoso tener esto y tener esa capacidad de decidir sobre el invento más importante del siglo.

Entonces, era parte de del germen y espíritu de la empresa.

Sí, OpenAye es como una secta, pero una secta guay, pues buenas cestas de Navidad, todos los años te suben sus cien mil dólares el salario, ¿no? Entonces, es una secta en la que a mí no me importaría estar. Yo en la entrevista de trabajo dije, sí, sí, yo creo en la AGI,

pero, bueno,

desde desde chiquitito. ¿En en qué punto estamos ahora? Y esto también es de documentos internos de OpenAI. Esto no es que se lo haya inventado Bloomberg, que es la que publicó este gráfico, sino que ese son los cinco niveles a los que aspira OpenAI en su hoja de ruta. Estaríamos en el nivel dos, ¿vale?

Porque empezamos con el nivel uno, que es un chat GPT, que es un chatbot, es el lenguaje natural con el que no esperábamos que si la máquina entrenaba todo el texto, la entrenábamos con todo el texto que hay en Internet, iba a poder hacer, pues, cosas tan chulas como las que está haciendo ahora, ¿no? Y estamos en un nivel dos en el que los primeros modelos razonadores asoman la patita, que son los que siguen una cadena de pensamientos para obtener mejores resultados, ¿no?

Sí, realmente, este es el roadmap que tenían ellos para llegar a al al punto cinco, en el que una inteligencia puede hacer todo el trabajo de una organización. Como veis, ambición no no le falta. Y aquí empezamos a ver un poco algunos de los debates. Entiendo que todos ustedes tienen una experiencia ya con con ChatGPT, y seguro que en esa experiencia, en ese recorrido con el chatbot, habéis visto, bueno, lo bien que funciona en algunas cosas. A mí lo que más me sorprendió la primera vez es cómo es tan buenísimo, pero tan buenísimo en captar mi intención, en entender, perdona que siempre vamos a antropomorfitar un poquito, en entender realmente lo que yo estoy buscando.

Esto eso de buscar cómo lo, hablaban los indios de las películas en Google, poniendo las keywords, ¿no? En peleando para que la máquina te entienda, eso parece superado, ¿no? Es para mí la magia de la fase uno no solo que te te responda, sino que la ILA te empuja a trabajar no con la sintaxis, sino con la semántica. Esto luego a la hora de implementar una empresa me parece que creo o o profesionalmente, como independiente, como es mi caso, creo que uno de los cambios más potentes, ¿no? Tanto cuando trabajo con imagen, con vídeo, con texto, ya no tengo que buscar las keywords, ya le pregunto por el significado, ¿no?

Entonces, en en esta fase número uno, en la experiencia, creo que todos lo hemos chocado también con el concepto de alucinación. Este concepto que la industria se se le denomina así, básicamente es que se equivoca. Es decir, comete errores, porque en su naturaleza, en su diseño está muy bien hecho para todo esto de la semántica y para manejar el lenguaje, pero no para ser factualmente correcto. Entonces, en esa lucha contra la alucinación que no está erradicada, podemos tener uno de los asteriscos, quizás, Mati, para poner empezar a poner en duda este camino. Porque si el fundamento en el que se basa el resto del recorrido todavía no está bien resuelto, no es redondo, no es un acierto del noventa y nueve como nueve periódico que pudiéramos confiar siempre en la máquina, claro, el resto que vamos a construir es más dudoso.

Por ejemplo, los agentes. Los agentes tenemos discusiones sobre cuál es el significado, pero el que le está dando la industria OpenEye, Google, etcétera, cuando lo están planteando para este fin de año, principio del otro, es que ya no vamos a intercambiar nuestra información. Te consulto, me respondes, hablamos, resúmeme, tradúceme, no es solo eso, sino que te quiero pedir que ejecutes cosas. Oye, de repente tengo este paper o tengo esta fotografía aquí esta noche de Pamplona, pues mira, usa el editor de foto, haz la edición que hago siempre, publicamelo en Instagram, ponle este texto y avísame de los comentarios en que la gente me diga cosas bonitas. Eso sería un agente.

El el decirle qué tiempo va a hacer mañana en Pamplona, pues es el Chapot, ¿no?

Sí, yo lo que más espero es que empiecen a democratizarse los secretarios con el tema de los agentes. Yo a una gente le diría, prepárame la presentación de la charla que vamos a dar en la cámara de comercio que me tengo que ir a cenar con José Andrés, ¿no? En lugar de estar a la ahí a las siete de la tarde en el hotel haciendo la

Deseando que eso sea multimudad, ¿sabes? Para que yo le pueda dar el uso de mi teléfono y cuando me llamen dice, no, soy el secretario de Antonio Ordóñez. Esa elevación de estatus que durará tres o cuatro meses, porque los que vamos probando todos los primeros tenemos siempre tres o cuatro meses de ventaja. Entonces, ahí será nuestra subida de estatus social, matiz, porque tendremos cuatro meses con un secretario de inteligencia artificial que lo demás todavía no.

Yo me paso a Android el día que Google saque algo de cuando te llaman para, mira, soy una compañía energética, le quiero vender tal, para que conteste el robot directamente, porque yo no sé decir que no, acabo diciendo que sí a todo, a lo mejor tengo dos líneas de fibra óptica en mi casa, porque no le he dicho que no a Yazztel y ya tenía el O dos, ¿no? Bueno, eso me me pasó durante un par de semanas. Él, bueno, y luego, anoche se habló mucho de de la el cuarto nivel que define OpenAI como lo la ya innovadora, ¿no?

Sí. Claro, en esto no no se han mojado mucho, es decir, no lo han explicado todavía muy bien, parece que conceptualmente yo lo tienen muy claro, pero Ay, es que es que aquí perdona, es que dejemos cosas para luego, pero es que es que de nuevo es el tema de los que yo quiero preguntar mucho a Guillermo, porque hay hay un debate sobre sobre estos sistemas de inteligencia artificial y lo diferente que son de la inteligencia humana. Y uno de los aspectos nucleares de ese debate es que, claro, ellos se han entrenado con todos los textos que hay en Internet, todos los vídeos que han podido robar de YouTube, todas las imágenes que por ahí, ¿no? Tienen toda esa esa base de datos, pero realmente, claro, cuando le preguntas cosas que estén en sus datos de entrenamiento, pero además que estén muy presentes, que no sean del extremo de las colas de la distribución, si me permitís la expresión, pues son realmente buenos, ahí se comportan muy bien. Pero cuando realmente hay algo que salga de esos datos de entrenamiento, que además de tu modelo se entrenan y separan, entonces empiezan a sufrir y se le pueden empiezan a ver las costuras, ¿no?

Bueno, y por último, el nivel cinco, que ya es staghi que puede organizar, que puede llevar el trabajo de toda una organización, y aquí he visto algunos jefazos haciendo así con el cuello de la camisa, pero, bueno, esa es a lo que aspiramos pero, repito que todo muy hipotético por ahora.

Bueno, queríamos anunciaros que a partir de ahora somos toros estocácicos. Toros. Bueno. Es que además, una de las cosas que hemos aprendido es que el paso doble que ponemos en el podcast, perdona la la el el la autorreferencia, está bien elegido por Matías porque suena muy bien, introduce bien, pero no era exactamente el que teníamos que poner para puerta a la enfermería, lo hemos aprendido aquí en Pan Programer.

Sí, es que, por lo visto, aquí hay mucho, bueno, vosotros lo sabréis mejor que yo, hay mucha tradición de músicos y, claro, nosotros no tenemos ni idea de música y no, decía José Andrés, esto no es un paso doble, esto es un chulumvelería. A mí me ha sonado a un personaje que tenemos en Málaga que no conoceréis, que se llama el chulumbel, pero, a partir de ahora, pues, le tendré más cariño a nuestra nuestro cambio

de negocio. Vamos a la definición de este chico, porque creo que a a la gente de la empresa le va a interesar, que es un ingeniero de OpenAI que decía, mira, os daré cuenta de que estamos en la inteligencia artificial general cuando empiecen a eliminarse vuestros empleos. Claro, este es uno de los temas realmente sensible socialmente, es decir, será una prueba de que tenemos una inteligencia artificial de nivel humano cuando esa inteligencia artificial puede hacer el trabajo de un humano. Quiero ver una visión, no sé tú, Mati, como lo ves, del en la que no soy muy creyente. Creo que, además, en todo este discurso de de las empresas se percibe mucho en el hype tecnológico, ¿no?

Las sobreexpectativas que hemos vivido con muchas tecnologías, los intereses espurios, es decir, si voy a conseguir esto, dame mucho dinero de inversión porque te hago una ¿no? Te te digo mucho más, ¿no? Y y tercero, porque hay un hay una cosa que lo podías probar en vuestro entorno, que a la gente preocupada tú le preguntas, oye, ¿tú crees que la inteligencia artificial va a eliminar muchos empleos, se va a quedar con el trabajo, va a sustituir a mucha gente? Y la gente preocupada te dice, sí, es un problema grave, seguro, que va a ocupar mucho trabajo. Y el tuyo.

Y dice, no, porque tú no sabes lo complicado y todas las cosas que yo hago y lo difícil que es, ¿no? Gestionar algo así. Es como, por ejemplo, a lo mejor Carlos no lo puede explicar mejor, tú dices, tú tienes una inteligencia artificial que va a hacer vídeos muy largos. Dice, bueno, se suscitará a a lo a la gente del cine, porque haremos películas con tres clics, pero, a lo mejor, en ese proceso de creación de una película, hay muchos elementos muy humanos que no son en absoluto transportables a esta a este flujo del escribe un prom a la máquina y lo hace, porque tienes que tener muchísimos interlocutores, tienes que de teleproducción de quién ha puesto el dinero, atender a su visión, entender el momento social que estás, el, realmente, algo que no tiene la inteligencia oficial, que es tengo unas ganas de contar algo, tengo una voluntad de incidir en el mundo de la que carece la máquina, entonces, tú empiezas a sumar todos los procesos interlocutores, stakeholders que tienes en cualquier empleo o trabajo, y te das cuenta de que hay una visión muchas veces muy simplista de de lo que hacemos los humanos desde el mundo del puro tecnólogo, ¿no?

A Antonio le gusta mucho hablar con los taxistas, no no es alguna costumbre que yo tenga, y me acuerdo que íbamos en Barcelona a un evento que teníamos, y Antonio estaba hablando con el taxista, y el taxista decía algo como, yo no sé mucho de inteligencia artificial, pero no me preocupa porque mi trabajo no lo va a sustituir, Y yo pensando por dentro, Tesla en octubre presenta los robotaxis. Weimo en San Francisco hace cien mil viajes a la semana. Bueno, sí, pues puede ser, bueno, de optimismo también se se vio muchas veces.

Bueno,

tengo un clip de veinte segundos en el que el ingeniero de OpenAI Hunter Leiman dice básicamente que el modelo que ahora mismo tienen ellos más avanzado, que es el O uno, tenemos el O uno preview, podemos usar todo el mundo, puede trabajar al nivel de un de un desarrollador. Bueno, esta, en realidad, esto es una miniatura, esta esta es la estética de nuestro podcast. No no os esperéis una cosa muy trabajada. La gente piensa que es intencional, pero no es limitación técnica mía, es lo que es lo que sé hacer a nivel imagen y creatividades. Entonces, este era un episodio sobre agentes inteligentes y Antonio tenía la idea de meter a Bertín Osborne, porque tenía como un sacacorchos de Bertín Osborne, una cosa así.

Sí, es verdad que hay muchos peligros en en el tema de la IA, y en ese episodio sacamos uno muy muy importante, porque decía San Alman que tenemos que acostumbrarnos a un mundo en que cada objeto va a ser inteligente. Todo objeto puede estar susceptible de estar conectado a la IA y por lo tanto pues tú puedes hablarle y esperar un comportamiento smart del dispositivo y claro a mí estuvieron a punto de regalarme el sacacorcho de Bertín of Borne, Entonces, poneros en la situación de que ese sacacorcho le mete la inteligencia artificial y puede hablar como Bertín Oborne. Entonces, tú llegas por la mañana y es verdad que tu vida cambia, entonces es un momento social para que creo que no estamos preparados, ¿no? Entonces, bueno, en la parte de labor de monos histocásticos es preparar al mundo para para este advenimiento y y que estéis, bueno, hagáis la idea, ¿no? Bueno, tenemos muchas predicciones de gente que está intentando adivinar o anticipar de los creyentes cuándo va a pasar lo de la AGI, no lo de vertirlo de lo que hemos hablado antes.

Yo yo yo creo que la la que ha tenido últimamente mayor cobertura mediática es Sam Alman, el CEO de OpenAI, en una entrevista que le preguntan qué qué es lo que te emociona de cara a dos mil veinticinco, y él dijo algo así como, bueno, la AGI, la AGI es lo que me emociona. Ah, también voy a tener un hijo, ¿no? Como él lo dejaba él en segundo lugar. Pero, claro, él no dijo exactamente que la AGI o la inteligencia artificial general va a llegar en dos mil veinticinco, pero luego todo se tergiversó y la gente se lo tomó como, ojo, que Sam Alman dice que ya estamos a a menos de un año de de la inteligencia artificial general,

¿no? Sí, hay hay un montón de predicciones, Darío Modelphia Anthropic habla de dos mil veintiséis, dos mil veintisiete.

Sí, tengo un clip de también de diez segundos. Que ahora tiene detrás a Amazon, igual que OpenAI, pues tiene como un inversor principal a a Microsoft, ¿no?

Sí, a mí algunas de estas predicciones me suenan cuando en una pareja hacen hacen planes de boda y hay uno que tiene más interés en casarse que el otro, y tú dices, no, yo creo que dos mil veintisiete, dos mil veintisiete puede estar bien pero lo vamos viendo ¿no? Porque a lo mejor mi tía de Suiza no puede venir, se unen un feo ¿no? Y entonces como lo vas echando un poquito para adelante ¿no? A mí me gustan también las predicciones de de Debbie Hassabi, de el David Hassabi es el premio Nobel y es un auténtico genio, de hecho todo todo lo que han hecho en Death Minnie con con Alpha Go me parece además lo más lo más impactante que realmente ya ha impactado en en nuestra sociedad, pero bueno, él hace unas predicciones que dice bueno, para dos mil treinta veo un cincuenta por ciento de posibilidades, lo cual, claro, no no está mal, ¿no?

Entonces es el tipo de de predicción en el que uno puede, uno en el que puede estar cómodo. Además que en esta misma entrevista dice Amodei, para dos mil veintiséis, dos mil veintisiete, la AGI, si no nos quedamos sin datos, o sea, ya han todo lo que hay en Internet, menos el blog de Antonio, que Antonio estaba muy enfadado porque es publicaron en el New York Times todas las webs que tenían indexadas para la base de datos de de un modelo de OpenAI, y de un modelo de OpenAI, y la el blog de Antonio no estaban.

Es verdad, porque a los creadores les enfada que entrenen la IA con con sus contenidos, ¿no? Sí, porque, claro, es un debate importante y ético, porque es una tecnología que puede ser extractiva, ¿no? Tenemos el todo lo que hemos creado todo el mundo con nuestros derechos de autor, y alguien lo usa, entrena una ILA, monta un negocio, monta un sistema por el cual gente me puede competir a mí, que puse los datos originales, no di mi permiso y no veo un euro. Entonces, hay un debate ético sobre esa naturaleza extractiva de cómo se está planteando la inteligencia artificial. Pero claro, yo cuando vi que error quinientos no estaba en la lista dije bueno, y que tienen los demás que no tenga yo, sobre a qué viene ¿no?

Entonces, bueno, era una parte un poco un poco curioso.

Esto es una encuesta de Metáculus, Es cierto que habrá cierto sesgo entre la muestra de encuestados porque, bueno, una persona normal no se mete a votar. ¿Cuándo creo que va a llegar la AGI? Pero, bueno, todo el mundo es bastante optimista, ¿no? ¿No? Ahí el pico está como en dos mil veinticinco, dos mil veintiséis.

O ahora o dentro de treinta años, dos opciones, ¿no? Bueno, hay hay una idea científico, no no no realmente no tiene una base científica muy fuerte, pero es una hipótesis sobre la que se articula toda esta creencia de que vamos a tener inteligencia en las máquinas como el nivel humano. Igual que IEFÉptico, que veremos más más adelante, una de las ideas más potentes que nos anima a pensar en esto es la idea emergentista, es decir, es el concepto por el cual tú no tienes que diseñar unas unidades pequeñas inteligentes per se, sino que de la unión de muchas de ellas, de la unión de muchas de ellas y su interconexión y de ese sistema complejo emerge un comportamiento mucho más sofisticado. El emergentismo, pues, intenta aplicar fenómenos como la inteligencia colectiva de las hormigas o la propia inteligencia humana, que no hay una neurona inteligente, ni siquiera hay un conjunto de neuronas inteligente, pero de la conjunción de todas ellas y su interconexión emerge nuestra mente y nuestra capacidad de de razonar, de pensar y de crear, ¿no? Entonces, ¿qué es lo que dice mucha gente desde el ámbito de la divulgación de la neurociencia y de la tecnología?

Ellos dicen, es verdad que, como ser humano, no soy capaz de dar unas instrucciones claras a un sistema y y decirle, venga, sé listo, ¿no? Sé inteligente y compórtate como yo. Eso es una vía de la inteligencia artificial que fracasó, que fuera la las primeras olas, pero si construimos los sistemas lo suficientemente grandes, lo suficientemente complejos y lo suficientemente entrenados, cuanto más grande sea de esa naturaleza compleja probablemente, piensa en ello, emergerá un sistema inteligente.

Sí, yo creo que Sam Alman aquí presente podría considerarse una emergentista, pero en realidad Sam Alman es lo que sea que a sus inversores le llame la atención, ¿no? Él va con con sus espejitos, te cambio esto por esos lingotes de oro y por esos tomates para llevármelos de vuelta, pues ese samalmann con sus inversores y esto es lo que dice, que después tú puedes surgir de la materia, ¿no?

Hay un hay un un investigador, un profesor de de Stanford, que yo creo que es muy interesante para todos los que interese esta vertiente de la naturaleza humana y de los sistemas emergentes, que es Robert Sapolsky, tiene un libro que se llama Compórtate, que para mí fue mi mi libro científico de hace dos años, una obra descomunal, tiene unas clases en YouTube que también son súper recomendables, y él explica una una cosa que es cómo de diferente puede ser el ser humano del chimpancé cuando apenas las diferencias en términos de genéticos o ADN es muy pequeña de de casi el dos por ciento, ¿no? Y él, una de las tesis que que plantea es que básicamente, la evolución hizo un un salto de cantidad. Tenemos más neuronas, tenemos un cerebro más grande, más conectado, y de esa diferencia de cantidad sale una diferencia de cualidad, y, por lo tanto, el neosistema biológico, esa ley de la emergencia y de la cantidad se cumple. Ahora, la gran pregunta es si eso es trasladable, sí o no, a los sistemas digitales.

Sí, al final el noventa y ocho por ciento de nuestro ADN es el mismo que el de los chimpancés. A veces se nota en algunos partidos de fútbol, sale la gente de de de las tribunas y tal sale a relucir el noventa y ocho por ciento, pero no está claro de ese dos por ciento que falta si lo vamos a sacar de un chip o una

GPU. Vamos a a presentar ahora, para que descansen también ellos un poco. Guillermo Barbadillo es el investigador científico en bebidas. Desarrolla modelos de última generación para biometría de rostro y voz anti Spotify de rostro y documentos, estimación de edad. Bueno, hoy está aquí, además, porque porque te van a dedicar ellos a ti, además, un un espacio de su podcast, a ver si Óscar nos echa una mano.

Óscar, se llama Puerta Grande o Enfermería. Ya Óscar, gracias. Pero ahí ahí es donde le hemos corregido, eso no es Puerta Grande. Puerta Grande es el que viene ahora. Así que gracias a usted.

Qué maravilla.

Yo creo que en ningún sitio como en Navarra entran también las referencias taurinas que se inventó Antonio en su momento, como El Puerta Grande de Enfermería, que es una sección del podcast en la que calificamos Puerta Grande si es una buena idea, o enfermería si es una mala idea, alguna de estas emprendimientos que de los tantos que surgen cada semana, ¿no? Y me hace mucha ilusión que esté Guillermo aquí porque, de hecho, la historia es al revés de cómo nosotros pensábamos que era. Nosotros pensábamos que aquí ya lo conocían desde hace mucho tiempo, pero en un episodio de monos estocásticos, Antonio dijo, Matty, ¿dónde crees que está la persona que más cerca está de desarrollar o de llegar a a un AGI o algo parecido? Y me dice, en Pamplona, en Navarre. Y yo, ¿cómo?

Sí, porque está Guillermo Barbadillo participando en el ARC, en un concurso en el que se intenta que estas estos modelos, estas máquinas superen una serie de puzzles, ¿no? Podría decirse que técnicamente no es como un benchmark normal, ¿no? Tú lo explicarás mejor, Guillermo.

Sí. Volviendo un poquito, pues, habéis dado unas cuantas definiciones de inteligencia y, al final,

casi

todas se se basan en habilidad. Las personas y también en el ámbito de la inteligencia artificial, hasta día de hoy, la visión mayoritaria es que la inteligencia es habilidad. Pues, por ejemplo, se desarrolló Deep Blue para jugar al ajedrez y luego se han ido haciendo, pues, otros retos, pues, jugar al go, ahora se suele medir a ChatGPT, pues, haciendo problemas de matemáticas o de doctorandos. Entonces, al final, eso son habilidades, ¿vale? Y las definiciones que hemos visto se basan en en eso, en tener habilidades humanas.

Pero Cholette, que ya lo habéis mencionado, en el dos mil diecinueve propuso una visión distinta, ¿vale? Para Cholette, la inteligencia no es la habilidad. La habilidad es el producto de la inteligencia, ¿vale? Las personas, si somos buenos al ajedrez, es porque hemos aprendido a jugar al ajedrez, porque tenemos esa habilidad de aprender. Entonces, si nosotros nos ponemos como meta hacer un sistema que juega al ajedrez, no vamos a conseguir un resultado, bueno, lo normal es que el resultado que consigamos no sea inteligente.

Lo único que vas a hacer es jugar al ajedrez, va a tener una habilidad muy alta y, una vez tú fijas el problema, le puedes meter todo el dinero que quieras, todos los datos que quieras, todas las GPUs que quieras y, entre comillas, comprar un nivel arbitrario de habilidad. Pero ese sistema no va a ser inteligente, porque la inteligencia es la capacidad de resolver problemas nuevos, problemas que los desarrolladores no han anticipado. Pues, al final, lo que nos enfrentamos nosotros en nuestro día a día, nuestro día a día está plagado de novedades y de cosas que no habíamos anticipado, pero con la inteligencia general que tenemos las personas, pues somos capaces de de navegar.

Sí. A mí me interesa mucho porque hay un un filósofo al que he leído mucho, que es Denet, que tiene una idea muy parecida a lo que tú dices. Él dice que hay mucha competencia sin comprensión. Igual que, bueno, en esta mañana hemos mojado del hotel, en el ascensor, y eso está haciendo el trabajo de un tercio humano. También lo hacía un ascensorista que te paraba, lo ajustaba perfectamente, pero ya el sistema mecánico es capaz de hacerlo.

Claro, todo todos los ingenieros que estáis aquí, que sepáis que detrás de eso hay una máquina de estados muy simple, tenéis muy claro que, oye, este ascensor no comprende lo que está haciendo, es decir, no comprende que estás en un hotel, que hay gente que sube, que baja, que tiene que ir a desayunar, no tiene realmente ese ese grado de inteligencia, pero es competente. El malentendido dónde está siguiendo un poco esta estas dos líneas. El malentendido está en que cuando vemos a la máquina manejar el lenguaje, no no es como subir o bajar del hotel, porque intuitivamente asignamos una inteligencia muy grande porque dominas el lenguaje que es lo que yo hago, ¿no? Entonces, es posible que estemos entre máquinas que sean competentes en tareas que nosotros creemos que requieren inteligencia, pero no tengan comprensión. Y aquí entramos también en otro francés.

Esto a nosotros también nos costó mucho. En lo de en el podcast darle mucha razón a los franceses, es verdad que así de entrada choca, ¿no? Pero bueno, ya una vez que has entrado, lo aceptas y y sigues para adelante, ¿no? Que es Jean Le Kuhn, un científico al que pudimos además preguntar cosas para para el podcast, que es el el jefe de de inteligencia artificial de de investigación en Meta, y que él también hace una crítica y tiene que ver con el escalado, que también lo critica Cholette. Es decir, parte de la hipótesis del de la industria es que, cuanto más grande, seguirá mejorando, ¿no?

Es esa idea de que uf, si en dos mil veinticuatro puede ser esto, en dos mil veintiocho seguro que es nivel humano, porque fíjate cómo crece la curva, ¿no? Pero la la hipótesis, y parece que estamos ya en ese punto, es que llega un punto en que por muchos más datos que uses, por muchos más entrenamiento que uses, ese escalado está llegando a su límite. ¿Tú lo ves por ahí, Guillermo?

Sí, si tú escalas los modelos y escalas los datos, vas a tener modelos que vayan adquiriendo más habilidades, pero no son modelos más inteligentes. Cuando a esos modelos les pones un problema nuevo, un problema que no está en todo Internet, es donde fallan. Y al final el, pues volviendo, la inteligencia es esa capacidad de afrontar problemas nuevos. Entonces, tú consigues sistemas más capaces, pero no sistemas más inteligentes, por hacerlos más grandes.

Por bajar un poco todo esto a ti, ¿no? Un modelo de lenguaje, para el que no lo sepa, matematiza el lenguaje en tokens, ¿no? Y lo que hace, lo que hay detrás de ChatGPT, pues son algoritmos, es un modelo de inteligencia artificial que predice los próximos tokens, es decir, las próximas palabras. Lo que pasa es que se el entrenamiento que se ha hecho es con es tan masivo, con tantos datos, tantos parámetros, tanto afinamiento, que da la sensación de que estamos hablando con un ser que entiende lo que está haciendo o incluso que razona con estos modelos que ahora han añadido ese tiempo de razonamiento para ofrecer mejores respuestas. Pero anoche le preguntábamos a Guillermo, pero entonces, la cadena de pensamiento no sirve para resolver problemas nuevos, hay que entrenar de nuevo al modelo con esos problemas nuevos para que sepa resolverlo, ¿no?

Como Guillermo va a hacer una presentación, y nosotros tenemos que ir ya dando paso a la gente que sabe de esto, te vamos a pedir un favor. Hacemos un puerta grande de enfermería en cada episodio y demás, le dijimos José Andrés que que queríamos hacerlo aquí también. Esta es una excepción en que traemos algunas de las takes, como se dice ahora, algunas de las posiciones con más extremas alrededor de la inteligencia artificial. Entonces, nuestro invitado tendrá que decir si son puertas grandes, esto va a ser el futuro, tiene toda la razón, a tope con ello, o enfermería, tremendo desastre. ¿Estamos?

Entonces, a lo mejor tenemos mucho porque vamos de tiempo, ¿qué tal Matías si empezamos con Melanie Mitchell? Dio una entrevista al medio español la razón con el motivo de su último libro. Y nos quedamos con uno de los titulares que, bueno, el titular que que que eligió el medio de una de sus declaraciones. La frase es acabar con toda la humanidad es ponerle el listón muy alto a la IA. Declaración de Melanie Eich.

Claro, ella lo que pregunta o lo o lo que plantea, si te la tomas un poco, ¿no? En en en su realidad de discurso, es que probablemente las visiones apocalípticas de que, oye, tenemos un chatbot que habla y me responde sobre cuál es la capital de Navarra, ¿no? Pues seguro que viene Terminator, ¿no? Es ese ese salto, ¿no? Que se está produciendo con respecto a las visiones más apocalípticas de la ILA, pues ella es es un poco escéptica.

Pero claro, lo puedes leer un poco de otra manera, quizás Matías, ¿no? Decir que es pedirle mucho, le le podemos pedir que en vez de con toda la humanidad acabe solo con con un grupo que nos caiga especialmente mal,

Claro, es que esto sí, lo lo comentaba antes José Andrés, si esto lo estaban hablando en dos mil quince

Claro, y posiblemente.

En por detrás en en los emails internos que se han publicado por un juicio, los fundadores de OpenAI, de los riesgos de dominación mundial o de su propia ambición de OpenAI, de dominar el mundo con su guía antes de que lo haga Google, porque al final la empresa nació un poco, pues, como antagonista de Google Depot, ¿de qué están hablando ahora? ¿Ya tendrán previsto dominar el mundo? Después no sé qué sigue, dominar el sistema solar, supongo.

Bueno, Guillermo, tienes que mojarte. Tienes razón, Melanie, es pedirle demasiado a la IA. ¿Cómo ves tú las posiciones más apocalípticas o tresmebundas respecto a este tema?

A ver, yo personalmente soy muy optimista. Es que, o sea, si miras un poco al pasado, cuando ya hicieron GPT dos, hace ya no sé cuántos años, cuatro años o o los que fueran, tenían miedo de liberar ese modelo, porque creían que era muy poderoso y y que va a ser muy peligroso, y y que lo ves con retrospectiva y y GPT cuatro que tenemos a día de hoy tiene mucha más habilidad y lo están comercializando sin sin problemas. Nada, yo le doy poco poca probabilidad a esos a esos futuros.

Bueno, pues, le damos enfermería, entonces, a a esta faceta. Tenemos que educarnos todos en que Terminator no fue un documental, son una cosa importante, era y y la uno es mejor que la dos, que es un tema también muy polémico del podcast. Y llegamos finalmente antes de que suban el resto invitado a un personaje que a nosotros nos gusta mucho. Ajá. Que se llama Eliezer Yutkovsky.

Eliezer Yutkovsky lleva como quince años anticipando la versión más apocalíptica dumeriana en lenguaje de Internet del sector de la inteligencia artificial, además, lo ha hecho sin salir de su cuarto, me parece a mí. Eliezer tiene una posición, pues, bastante contraria, ¿no? Al desarrollo de de todos estos sistemas y está siempre al acecho, ¿no? La escopeta cargada para, ante cualquier peligro, ¿no? Decirnos que cuidado por ahí, ¿no?

Siempre es interesante escuchar a la gente que lleva una fedora, un sombrero de estos en su foto de perfil, porque sabes que va a tener la opinión más demencial que has escuchado en tu vida sobre la inteligencia artificial. Claro, yo

creo que Eliezer es como un anticipo de la gente que lleva gorra deportiva dentro de las habitaciones. Entonces, él era de la generación anterior, entonces, lleva el sombrerito, ¿no? Bueno, Eliezer dice, bueno, vamos a ponernos en lo peor. Lo de la inteligencia artificial se nos va de las manos, tal. ¿Cuál es su plan para evitar esto?

En una entrevista a la revista Time, que a pesar de esta declaración publicó la entrevista y le dio la portada, Eliecer tuvo una idea, que era bombardeemos los centros de datos. En su mundo y lógica tiene sentido. Es más, tú lo piensas y dice, bueno, a lo mejor de Aragón no han sido tan listos con esto de los negocios que están haciendo, A lo mejor se se la están dando a la de felices, pero si Alianza tiene razón, que se prepare, Aragón, ¿no? Bueno, el caso es que hay posturas súper agresivas respecto a a la versión apocalíptica de la inteligencia artificial, y eso nos lleva, y a lo mejor puede ser una una parte final del debate, a la gobernanza. Es decir, hay una parte que no nos da tiempo a contar, que es muchos de los analistas que están en estos desarrollos dicen, oye, sí lo conseguimos, lo normal es que la inteligencia artificial general se nacionalice.

Es decir, que el estado diga, esto es demasiado poderoso, no lo debe decidir el el actor privado, sino yo, y hay otro debate. Esto puede ser abierto, lo puede usar cualquiera, van a ser de tres empresas americanas, en Europa tendremos una, pero más capadita, partiendo de que a lo mejor no eres partidario de bombardear ningún centro de agua. ¿Cómo ves tú la expectativa de de la gobernanza de la inteligencia artificial? No solo en el caso de la general, que es, de nuevo, hipotético, sino en el de la actual real que estamos implementando.

Bueno, yo me inclinaría por por el open source, pues un poco el enfoque que está haciendo Meta, que la inteligencia, que los modelos estén disponibles para todo el mundo y que todo el mundo pueda utilizarlos para para las tareas que considere necesario. Luego, pues, está claro que al final es es una herramienta, es es la capacidad de resolver problemas, entonces lo puedes usar para el bien, para el mal. Ahí, pues, los usos malos son los que hay que legislar si no están ya legislados porque también es cierto que, bueno, desde mi punto de vista, en Europa se está legislando preventivamente, nos estamos poniendo la la tirita antes de la herida y yo creo que habría que esperar a que se produzca ese es, bueno, o o esperar un poquito para ver cómo va el tema para para frenarlo.

También es que bombardear los centros de datos es muy ineficiente, porque hay muchos centros de datos, afectaría aquí en Navarra, Aragón, toda la cuenca del euro, hay muchos potenciales centros de datos, hay que ir a la raíz, que es Taiwán, y de hecho están en ellos, ¿no? Están ahí en Taiwán dando vueltas.

Bueno, yo creo que hay que evaluar, es decir, qué es peor para el mundo, la inteligencia artificial o lo madurito de los cuarenta que en la crisis de la mediana edad se le

da por hacer podcast. A lo mejor lo que quieren bombardear es la en la fábrica

A lo mejor lo que quieren bombardear es la la fábrica de Shure y Logitech de los micrófonos, y el mundo sería un un un lugar mejor.

Yo me casé antes de tener el podcast, entonces hice bien la jugada, porque al revés no habría podido ser, la verdad.

Absolutamente, absolutamente. Bueno, tu posición actual, habiendo trabajado con esto y con con tu nivel de en inteligencia artificial, es que realmente ahora mismo es cuestión de que hay que hacer nueva ciencia, es decir, innovar en cómo hacemos la inteligencia artificial, cómo se innovó con el machine learning, el transform, es decir, un cambio técnico en cómo hacemos la inteligencia para el siguiente nivel, o que con la inteligencia artificial generativa actual se puede llegar a niveles mucho más altos. Porque lo segundo, lo podemos hacer, cuestión de poner centros de datos, dinero, energía, etcétera, y empujar, ¿no? Pero para lo segundo es incierto, se puede descubrir algo o puede ser que no. ¿Cuál cuál es tu visión a día de hoy?

Sí, para llegar a la inteligencia artificial general, yo creo que todavía hacen falta saltos, hace falta descubrimientos. Es esto, ¿qué qué hemos visto aquí? Diría que es un, apunta un poquito en una dirección, pues eso, en modelos que que estén continuamente aprendiendo, no que se queden congelados y luego los usamos, pero probablemente hace falta más. O sea, es posible que los modelos sigan siendo los mismos, pero cómo los utilicemos o los datos que les demos para entrenar sean distintos. Eso no lo sé, eso habrá que verlo con el tiempo.

Hablando de escalar, no sé si han estado siguiendo esta polémica que hay con el muro, dice Sam Alman, no hay muro, que han llegado a una meseta de tanto escalar el el entrenamiento, ¿tú crees que están encontrándose con ese muro?

Yo diría que sí, porque al final, si nos damos cuenta, en dos mil veinticuatro tampoco ha, bueno, GPT cinco no ha salido. Entonces, pues, bueno, un síntoma. Al final, como ya habéis dicho, los modelos que tenemos a día de hoy están enterados con todo Internet. Entonces, pues ese ese avance que ha habido en los últimos años, pues ha sido gracias a, pues eso, usar más datos y modelos cada vez más grandes. Los datos se han acabado.

Entonces, bueno, pues está la vía de los datos sintéticos, modelos más grandes se va a poder ir haciendo conforme, pues, el hardware avance, pero un poquito yo sí que la veo agotada. Yo creo que hace falta, pues eso, nuevos saltos, nuevos descubrimientos que nos permitan, pues, seguir avanzando para para poder mantener el ritmo.

Si hay que crear datos no hay problema porque en España somos potencia en YouTubers, en influencers, en streamers. Ahí se crean datos, pero muchas horas, muchas horas.

Claro. Eso nos da mucha esperanza para la inteligencia artificial, ¿verdad?

Sí, sí, sí, sí.

Por favor. Bueno, estupendo. Ahora vamos a dar paso al siguiente invitado que es Miquel Galar, vamos a Colocar. Miquel Galar es el profesor titular de la Universidad Pública de Navarra de Ciencias de la Computación e Inteligencia Artificial, doctorado desde el dos mil doce. Además, dirige la cátedra de tracasa de inteligencia artificial y lidera el grupo de investigación artificial, inteligencia machine learning research.

Bueno, pues ahora, un aplauso, por favor. Profesor, además inversor, has apostado por crear empresa y, además, ahora le vamos a dar paso a Carlos, por favor, le colocamos el. Carlos es CEO del laboratorio de IA Profesor Octopus y de los estudios y productora define de animación es difícil de pronunciar, lo voy a intentar, doctor Platipus I Mertxum Bolt Watch.

Carlos, te quería agradecer que hayas resumido tu presentación de dos horas en una hora y cuarenta y cinco, pero quería señalar una cosa que no has tratado y que me parece importante, que es que eres una rara avis de la IA, por un lado, porque esa faceta de cineasta más directivo de la IA, y por otro lado, porque las personalidades de la IA, como Demi Hasabis, como Ileaus Kever, como Andrei Karlpathy, como yo, tenemos en común una carencia capilar, una cierta

alopecia y

tú tienes una melena impresionante. Además, desde aquí, desde cerca se ve.

Iba a decir melena de León, pero

digo, te digo, te digo, te digo, estoy viniendo de Argentina a ver si me lo vas a.

Bueno, plantératelo para tu credibilidad en el sector Que me tengo

que rapar. No sé, yo creo que, a ver, ¿dónde está Yeray? Es uno de los project managers del equipo.

Complementáis, no, ahí está la sinergia creativa tengo.

Un fenómeno, un fenómeno. Ya. Tengo que decirte que, yo creo que hay una de las cosas que, de las cosas buenas que nos suceden, que no nos suceden cosas no buenas, pero sobre todo de las buenas, yo creo que hay algo que Mario y Javi les llamamos los ingenieros artistas. Es decir, os lo contaba ayer en la en la cena, el creo que uno de los factores clave del momento que estamos viviendo es el thinking out of the box, es el el el la creatividad, es la solución lejos de romper con lo que rastreamos. De hecho, el proyecto que nos acaban de conceder, debo reconocer que tenía mis dudas, porque la propuesta que hicimos es, vamos a romper todo el pipeline de producción y lo vamos a reinventar entero desde cero.

Ese es el objetivo. Claro, poder tener el tiempo y los recursos para, es decir, todo como lo hemos hecho hasta ahora se basa en una cadena de acontecimientos. La cadena de acontecimientos acaba de empezar otra. Esto es como en Marvel cuando empiezan con las líneas temporales. Yo creo que ha empezado otra, y que tiene muchos puntos en común, sí, pero que es el momento de reinventar la manera de hacer las cosas, y ahí es donde la gente de Bellas Artes, y los que vienen, como Mario o como Javi, que los tenemos el diálogo con películas, videojuegos, con experiencias y tal, creo que creo que es donde está, por lo menos, nuestro camino seguro, y esperamos que sea de utilidad para todos, vaya.

Bueno, buenos días. No puedo dejar de aprovechar que están aquí, pues, los Cristianos Ronaldos y los Messi de todo esto para hacer

Pero, perdón, ¿esas dos páginas son las preguntas?

No, no.

También os iba a decir que supongo que os invito a cenar ayer la cámara porque si si hubieseis vendido entradas yo creo que os auto financiabais, Porque creo que fue muy interesante lo de la cena que ha salido varias veces, pero las dos dos preguntas tengo. Una con un componente quizá más filosófico, que creo que además tiene mucho que ver con, y se habla mucho de la filosofía dentro de la inteligencia artificial ¿no? Pero yo no voy a hablar del potencial que tenga el cerebro humano porque, bueno, hay quien dice que ya hemos exprimido todo el potencial o no, pero quizá no conocemos todavía cómo funciona del todo nuestro cerebro. Yo no sé si la inteligencia artificial pueden pasar dos cosas y quiero saber vuestra opinión, si nos puede ayudar a conocer más el funcionamiento del cerebro humano y, por lo tanto, hacernos más inteligentes si queréis de esa manera, o al revés, o hacernos más acomodaticios y, por lo tanto, perder ciencia inteligencia como ser humanos, ¿no? Y la segunda, has comentado tú antes algo, Antonio, pero ese efecto de la rana esta que cuando la metes en en agua hirviendo salta, o cuando la vas calentando poco a poco, pues la terminas cociendo.

No sé no sé si ya vamos a ser conscientes o de qué manera vamos a ser conscientes de toda esta evolución de la inteligencia artificial, y ya como usuario ciudadano trabajador, os pediría vuestra opinión para decir, oye, ¿podemos hacer algo? ¿O tenemos que ir al supermercado y a reemplazar con todo lo que hay o meternos en una habitación oscura o relajarnos y disfrutar? No sé si podemos hacer algo.

Yo dejaré hablar a, pues, a Guillermo, a a quien quiera que sepa más que yo, pero yo, no sé si habéis visto la película Wallie, pero son todos gordos y van, claro, porque al final como lo que creo que comentabas tú anoche, esto de la calculadora, de que ya nadie sabe hacer cálculos mentales porque todo el mundo tiene una calculadora en el teléfono. Por un lado está esa visión, pero por otro lado, en Estados Unidos hablamos muchísimo de los CMPIC, yo creo que es el desarrollo más interesante que hemos tenido en Europa. En Estados Unidos ha bajado la obesidad por primera vez en, no sé si habéis ido a Disneyland, Orlando, pero eso es impresionante que haya bajado la la obesidad de Estados Unidos gracias a la ciencia y claro, está Alphafold, que es el desarrollo de Google Deepmind para descubrir los pliegues de proteínas y generar nuevos fármacos, eso se basa cien por cien en inteligencia artificial. Y el lado cyborg que también has mencionado es una visión que, por ejemplo, Elon Musk tiene con una de sus empresas, que Neuralink, que, bueno, se con a base de electrodos, también planea amplificar las capacidades humanas gracias también a la inteligencia artificial.

Entonces, yo yo soy más de esta segunda visión de que la ciencia puede hacernos mejores, ¿no? Si no es con los fármacos, si no es un tema a ciborgo, si no es con las mejoras económicas que nos están prometiendo, yo creo que vamos hacia una humanidad mejor, pero a lo mejor es porque soy una persona optimista y de corazón positiva, ¿no?

Sí. Y y, bueno, yo creo que hay hay un elemento interesante en todo el impacto en el empleo y económico, que muchas veces se dibuja el paralelismo con la revolución industrial y los luditas. Los luditas eran aquellos que, ante la presión de las primeras fábricas y mecanización del trabajo físico, pues opusieron una fuerte resistencia con aquel personaje que era Luz, que que se erigía como una especie de mito líder contra contra la Federación y quemaban las fábricas, ¿no? Y y ahí las atacaban, ¿no? Claro, ellos tenían parte de razón, es decir, lo que hizo la Revolución Industrial era igualar con la con la mecánica toda la inversión en aprendizaje que habían hecho los artesanos, que tenían una ventaja competitiva.

Entonces, tú como artesano veías que se mecanizaba tu trabajo y no podías competir en precio y te devaluaba, ¿no? Que él, intentando establecer el paralelismo, claro, como la inteligencia artificial insospechadamente nos está afectando a los trabajadores de la creatividad del conocimiento, los luditas no son los trabajadores mecánicos que van a quemar fábrica. Los luditas puede que seamos trabajadores del conocimiento, que veamos que nos impacta en nuestro trabajo, y aunque no haya despido, a lo mejor si hay bajadas de salario, hay cambios bruscos de aparición de empleos y desaparición de otros, y hay gente perjudicada. Pero probablemente no quemaremos nada. Probablemente lo que haremos, como gente del conocimiento, la creatividad y los contenidos, sea intentar intervenir e influir en la opinión pública.

Entonces, yo necesito desarrollo tecnológico en los años que llevamos tratándole desde Chataka o cualquier otro, que tenga tanta oposición y tanta hostilidad como está teniendo la inteligencia artificial en mucha parte de la discusión pública, con mucho miedo y con mucha alerta. Y creo que el componente de que nos va a afectar a la gente que tenemos micrófonos puestos forma parte de esa ecuación de por qué, realmente, es una tecnología que se la ve con recelo, miedo y apreció, ¿no?

Muy bien. Vamos a tener la segunda parte, creo va a ser también muy interesante, y van a hacer al final unas conclusiones también Matty y el otro. Es como les conocen realmente. Está abajo donde vamos a tomar el café y voy a utilizar la técnica que utiliza Matty con su suegra, es decir, os amenazo con el llevaros a la residencia, le dices eso.

O sea, el mayor terror de mi suegra es que la metamos en una residencia y yo cada vez que paso por una le hago una foto y lo mando por el grupo familiar. Estamos pensando en esta.

Como habéis visto, subyace todo el rato un comentario, una reflexión sobre el desarrollo del modelo más de lo público o más de lo privado, y esa combinación. Y llevándolo, como bien decía Iñaki, siempre nunca sabes si haces mucho, porque haces, si no haces, porque no has hecho. O sea, la administración siempre, si lo llevamos a la geopolítica, tú lo comentabais el otro día, Estados Unidos a la guerra y ahora, dice Matti, claro, ahora han puesto, además, ha puesto el nombre que le ha querido al departamento, ahora ha puesto a Elon Musk, que tiene cinco empresas con intereses en ese departamento, vamos, lo más parecido a Y, por otro lado, el modelo chino, que lo comentabas Antonio, ¿no? El Wen y el Chipín diciendo todos para allá, y todos para allá significa que estado y empresas, Huawei y todas hacia allá. Nosotros tenemos, en estos momentos, también, creo que la suerte de de poder hacer este debate, porque estamos en una una sociedad donde lo público, lo privado, buscamos eso, y como las experiencias a veces son traicioneras y siempre se hace, es fácil leer lo que pasó, pero lo difícil es tomar la la reflexión en en el momento, ¿no?

Porque cuando empezó todo el tema de la digitalización, el key digital, nos decíamos, jod, es que no hay empresas digitalizadoras en Navarra, nos decían a la parte privada, ¿no? Claro, y entonces reflexionabas todo lo que pasó con las punto com, el volumen, etcétera, etcétera, todo ese tipo de cosas. Estamos en ese momento donde es con estos buenos cimientos que estamos montando, queremos hacer hidrológicamente, me dejáis que lo haga como ayer, embalsar el conocimiento y hacer un buen canal para llegar hasta las empresas y la sociedad ¿no? Quiero ser mal, vosotros que estéis viendo ahí, desde el punto de vista de Europa, de todo lo que hemos reflexionado, el momento de Navarra, ¿cómo nos veis?

Anoche en la cena, perdón que hablemos tanto de la cena, tendría tendríais que haber estado ahí. Se habló del tema China, precisamente que has mencionado, con esa frase que dijo el que fue director de Google China en el breve período en el que existió Google China, de que si China quiere ir a por la AGI o a o a ganarle a Estados Unidos la carrera de la IA, lo va a hacer todos a una, como ha hecho con las renovables. Y yo llevo cuarenta y ocho horas en Navarra, y a mí me ha parecido una China pequeñita, porque, a ver, no tenéis un partido comunista chino, de hecho, tenéis un montón de identidades y de y de ideologías políticas para ser tan poquito, pero pero es que el chovinismo que hay aquí, el paseo que dimos anoche, vimos una especie de mercería que parecía como parada en el tiempo, ¿no? Y la gente realmente iba a comprarle camisas al señor que estaba ahí anoche, y y bueno, hay un Zara también, pero la gente iba a comprarle camisas a ese señor. Y y ahora estamos hablando de cuatrocientos teraflops que ponen a disposición de los navarros y de las navarras.

Entonces, toda esta colaboración pública y privada, con ejemplo de carros desarrollando sus propios modelos, modelos navarros, a pesar de que él sea gallego, tenéis que aceptarlo ya como navarro, por favor. Aceptadlo en vuestras cuadrillas. Hay que tener más flexibilidad para entrar en las cuadrillas. Y vais con un convencimiento, como como ha pasado con la eólica en Navarra, lo comentabais vosotros, vamos a por la eólica, vale, guay, pues entonces este pueblo de cuatrocientos habitantes va a hacer x componente, ¿no? Pues yo creo que con la ILA, la la ambición que tenéis de ser un hub tecnológico de inteligencia artificial, todos los ingredientes están ahí, o sea, yo me voy convencido de que lo vais Yo me me me he ido a empadronar esta mañana, porque tengo un convencimiento fuerte de que sois una china pequeña en ese sentido.

Bueno, pues, joder callado ahora, Mati. Perdona, Claro, el tema de qué rol puede tener la administración pública siempre es muy difícil, ¿no? Por justo el el el problema que que ha explicado Iñaki, ¿no? Claro, lo lo razonable, se podría precisar, es que la que la administración pública sea lo que llaman en la industria un smart followers. Es decir, no se le puede pedir y exigir estar en la punta de lanza de la innovación justo en lo último, porque es un contexto en el que hay muchísimo riesgo, en el que la mayoría de los proyectos son son fallidos, pero sí que tenga la agilidad y la rapidez suficiente para leer el mundo y el y el sector tecnológico y el cambio para reaccionar lo suficiente cuando hay indicios de que una tecnología sí va a realmente tener un alto impacto.

Entonces, claro, podemos decir, en el primer caso estaríamos en riesgo de haber hecho hace tres años las súper jornadas del Metaverso, que era el gran tema o uno de los grandes temas de la discusión tecnológica, y que muchos anticipaban y y y postulaban como la siguiente gran cosa, ¿no? La siguiente plataforma a la que que iba a tener un alto impacto. Todavía no ha sucedido, ahora está como guardado en el cajón, como más escondido, ¿no? Pero hubiera sido precipitado. La pregunta es, con la IIA, al al tener todos estos planes y todos estos proyectos, ¿podemos estar cayendo en lo mismo?

¿Podemos estar yendo demasiado rápido y la tecnología no va a dar para tanto? Claro, nuestra apuesta es que no es lo mismo, es que, y además yo aquí me me miraría mucho, por ejemplo, el caso de Carlos, ¿no? Y y todos los proyectos que tienen en esa empresa y en ese grupo, que es la demostración de que ya hay impacto real, hay proyectos reales, hay retornos reales, hay aumento de productividad real y, por lo tanto, esto no es solo palabrería, sino que hay cosas que hacer ya, ¿no? Entonces, aunque la jornada ha sido mucho de ágil, ¿no? Y de hablar del futuro, creo que hay una parte importante que es de la que se tiene que ocupar la la administración pública, que es qué se puede hacer ya, porque si esto tiene un impacto transformador tan grande como como algunos esperamos, se abre una ventana de oportunidad, ¿no?

Que siempre hablamos de una amenaza, ¿no? Del cambio tecnológico, pero una es una ventana de oportunidad. Si esto es una suerte de electricidad, ¿no? Que también es es algo en lo que Gorka ha pintado un poco también el a la hora de plantear la la inteligencia artificial, es decir, es algo que va a afectar a todas las industrias y a todos los desarrollos profesionales, es una oportunidad para para todas las regiones y para todos los agentes que estamos en ella, ¿no?

El otro tema que comentábamos ayer también era sectores donde ya se está invirtiendo en inteligencia artificial, lo decías. El primer Premio Nobel ya es con IA, ¿no? Química, y hablabas del tema armamentístico, ¿no? Como un gran problema que lo analizabas, me me encantó y quería que lo compartieses porque

Sí, hay hay un, en en el mundo de los flipados de la tecnología, somos muchos muy aficionados a seguir una industria tan apasionante como la de semiconductores. La industria de semiconductores es una de las cosas más fascinantes geopolíticamente de los últimos cincuenta años. Tiene una historia muy interesante de la primera competencia de Estados Unidos Unión Soviética y historias de espías en las que los soviéticos robaban los secretos de los americanos y los replicaban. Y es muy interesante cómo competían estas dos potencias porque los soviéticos en ciencia pronto se pusieron al nivel de los americanos, como la investigación espacial, o incluso en algún momento empezaran a superarlos. Pero donde los soviéticos perdieron con los americanos, y esto es una historia que nos puede interesar para la la competencia actual, fue en las labores de ingeniería.

Es decir, en todos los procesos de optimización, de montar fábricas, de desarrollar, optimizar de los ciclos virtuosos, de escuchar al mercado, el sistema capitalista, en ese sentido, ofreció unas ventajas que la dictadura comunista no tenía, y el el gran campeón de los chips de esa época fue Estados Unidos, y Estados Unidos, en colaboración con otros países, permitió que Japón emergiera, permitió que Taiwán emergiera y permitió que Corea del Sur emergiera, y son países importantes, siempre con una condición. Son todos países que tienen que estar analizada su seguridad en Estados Unidos. Son países todos amenazados, sobre todo por la potencia de de China, y todos dependen, realmente, en su seguridad, especialmente Taiwán, de que Estados Unidos prometa que los defenderá. Entonces, es un control que ellos tienen. Y esto tiene una importancia armametística adicional, que es que, sobre todo en el momento de la Guerra del Golfo, se demostró que el ejército de Estados Unidos estaba como quince años por delante de todos en teledirigir un misil que diera exactamente en el punto que quisieran y, además, tener una defensa antiaérea gracias a toda la tecnología de chips y el software que hay por encima a la hora de defenderse.

Entonces, en la Guerra del Golfo fue un momento estelar para demostrar que la ventaja tecnológica te daba la ventaja en armamentística y geopolítica. Y el punto actual es, la inteligencia artificial va a tener ese rol en los ejércitos y la guerra del siglo veintiuno. Lo que vemos en en en el sector Ucrania es que en parte sí, es decir, toda esa parte de los pequeños soldados autónomos, que son, ¿cómo se llama? Lo que tú usas ilegalmente.

El el el dron.

Los dron, eso. Tiene unas fotos de de Euskadi que lleva los últimos días, he hecho lisimas que sea con él.

Sí, estuve volando el dron encima del restaurante de Carlos Arguiñana, allí en Ceraus, pero no sé si

si lo habrá visto. Luego en el vídeo podéis cortar esta parte porque os estoy confesando una cosa un poco lícita. Bueno, el caso el caso es que, y ya termino, si la si la IA va a ser nuclear en el desarrollo armamentístico, y aquí hay consideraciones éticas de cómo de autónomo podemos dejar a un bot a la hora de tomar decisiones de vida o muerte sobre seres humanos, un debate ético importante para tener, pero si la ILA en general va a ser importante, podemos tener el convencimiento de que Estados Unidos no va a bajarse de de esa carrera, y podemos estar convencidos de que China no va a bajarse de esa carrera y que podemos tener como una serie de incentivos parecidos a la a la a la guerra hermenticia nuclear. Es decir, como sé que los malos, siempre pensando en el otro, van a tener armas nucleares, yo buscando la paz de tener armas nucleares, ¿no? Aunque suene como muy muy a contrasentido.

Entonces, el papel de Europa, ¿cuál ha sido? Creo que ya ha salido varias veces, creo que tiene una carga ética más fuerte, pero creo que Europa hace una cosa a menudo que es, como quiero cortar los peores casos de la distribución, los casos más extremos que creo que son perjudiciales, pongo una legislación que muchas veces tiene la naturaleza y tiene el potencial de cortar los mejores casos también extremos y potenciales. Entonces, nos quedamos siempre un poco en la media, si tendremos sistemas de inteligencia artificial que puedan funcionar, ser competitivos moderadamente. ¿Tendremos los mejores porque son mejores? ¿Han subido unos riesgos que para conseguir eso han tenido que inventar algo que no están seguro de poder controlar?

En Europa no. Entonces, realmente hemos tomado, de momento, como como unidad política que somos, económica, hemos tomado ese camino.

Pues muchísimas gracias, Antonio, Matti. Gracias. Gracias por haber venido.

Ah, pido una ¿Habéis puesto el cuadro final? Espera. Vale, vale.

Esto era el tema que querías comentar.

Sí, bueno, es un cuadro, el el cuadro, es que se ve muy chiquitito desde el final, ¿verdad? Es de un pintor que estaba Delia Rippin, que está en el en el, bueno, estuvo en el caído en desgracia museo ruso de Málaga, y la pena es que no se ve bien porque es un, se llaman los silgadores del Volga, son, pues eso, gente que está en el Volga sacando un barco del mar, que como se hacía a la antigua, ¿no? Con fuerza bruta, mientras en el fondo, muy difuminado, muy pequeñito, apenas un matiz dentro del cuadro a la derecha, hay un pequeñito barco, ¿veis? En la lejanía que ya está expulsando vapor. Es decir, que mientras esta gente está empeñada y viendo las circunstancias de su siglo y de su tiempo, realmente, ya hay un dibujo, hay un futuro dibujándose dibujándose de fondo, y creo que, a lo mejor, esta época de inteligencia artificial es un cuadro que nos puede evocar lo que lo que nos está sucediendo.

Bueno, Miquel dijo antes que los estudiantes conocen mejor las herramientas de guía que los profesores en la universidad, entonces hay

expertos, hay expertos, o sea, es todo.

Muchísimas gracias. Un aplauso para ellos,

por favor.