Llevamos la inteligencia artificial a la SGAE. Los abogados siempre ganan

Este es nuestro primer episodio en directo, grabado durante el congreso "La propiedad intelectual y las industrias culturales ante la inteligencia artificial" por el 125 aniversario de la SGAE. Hablamos de:

• Casos de uso actuales de la IA que afectan a la propiedad intelectual
• Los muertos y la IA: cómo los derechos de imagen, obras e interpretaciones de personas fallecidas son gestionados por sus herederos y esto permite la aparición de obras inéditas post mortem
• El futuro de la interacción entre humanos y avatares digitales, el impacto social de la IA en las relaciones humanas y el consentimiento
• Monetización y modelos de negocio en torno a la IA: desde la publicidad hasta la creación de contenidos y servicios personalizados
• Las limitaciones y controversias de las IAs creativas: Discuten las limitaciones impuestas a las IAs generativas en la creación artística y los desafíos éticos y legales asociados
• Las implicaciones de largo plazo de la IA avanzada en la sociedad, incluyendo aspectos filosóficos, legales y de libre albedrío. Y cómo los abogados siempre ganan

Monos estocásticos es un podcast sobre inteligencia artificial presentado por Antonio Ortiz (@antonello) y Matías S. Zavia (@matiass). Más en monosestocasticos.com

Muchísimas gracias. Estamos muy honrados de estar aquí. Yo quería empezar felicitando a las gais por sus ciento veinticinco cumpleaños. Enhorabuena, además no no los aparenta, aparenta solo ciento veinte, así que felicidades. Claro, nosotros cuando recibimos esta esta invitación nos sentíamos un poco fuera de contexto, ¿no?

¿Qué qué vamos a hacer unos chicos como nosotros en un en un congreso como este, Matías?

Bueno, lo primero,

presentar el podcast. Antonio y yo llevamos más de un año

con un podcast sobre inteligencia artificial, monos estocásticos, y bueno, tuvimos la suerte de llegar en el momento indicado. Siempre contamos la anécdota de que durante un tiempo, una semanita, estuvimos por encima de Jiménez Los Santos en el ranking. Entonces, eso, pues, nos animó a seguir y aquí estamos varios varias docenas de episodios después. Así que nada, esta imagen autogenerada la hice yo, por eso Antonio tiene menos pelo y yo tengo más del que del que realmente tenemos. Pero bueno, hoy vamos a hablar de casos de uso de la inteligencia artificial, de proyectos de futuro, así que nada, Antonio, ¿quieres introducir el episodio?

Sí, bueno, avisaros que, claro, tenemos dos audiencias. Una esta es aquí presente, está conectada a través de los de los canales de la CAI que nos están grabando, y otra es la audiencia de siempre de nuestro podcast, entonces, algunos personajes habitual de nuestros episodios aparecerá, pero aquí nos han dado clara unas instrucciones, unos objetivos de comunicación, que son básicamente tres temas. Uno es casos de uso de la inteligencia artificial que estén, a lo mejor, bajo el radar, que no tengamos tan detectados, que no aparezcan tantísimo en los medios y que, por lo tanto, bueno, pues dos bichos que están todo el día mirando todo lo que se hace de inteligencia artificial, pues pueden ayudar a descubrir y a discutir. ¿Qué proyectos de futuro se están trabajando ahora para que tenemos una discusión de propiedad intelectual con la IA de dos mil veinticuatro, pero ¿cuál va a ser la de dos mil veinticinco? ¿Cuál va a ser la de dos mil treinta?

Bueno, vamos a intentar adivinar un poco, ¿no? Hacer ese ejercicio de tecnología ficción y luego nos han pedido que hablemos mucho de pasta, ¿no? De que hablemos de dinero, que era un tema que, por lo que sea, preocupaba también a la en el congreso, de qué modelo de negocio y de quién está haciendo dinero, quién está consiguiendo, pues, beneficiarse de la inteligencia artificial a día de hoy.

Y, bueno, como acabamos de comer y queremos empezar bien arriba, vamos a empezar hablando de muertos. Nosotros no somos no somos abogados, de hecho, íbamos, estudiamos ingenierías y acabamos pasándonos al periodismo, que es un poco lo inverso que están haciendo ahora los periodistas, ¿no? Se está pasando a la informática. Y a a pesar de no ser abogados, vamos a empezar hablando de los derechos de los muertos, ¿no? Porque es una de de las transformaciones que estamos viendo con con la IA.

Ya sabemos que en España, igual que en muchísimos países,

pues los derechos

de imagen de los muertos los gestionan los los herederos y y, bueno, a veces gente que compra esos derechos. Entonces, esto está dando lugar a a cosas un poco un poco extrañas que vamos a debatir mucho en los próximos años.

Veréis, una de las noticias que quizás sea más llamativa de las últimas semanas es el el caso de Laurie Anderson, no sé si la habéis cruzado con ella. Ella es la viuda de, entre otras cosas, es la viuda de Louvre y, tras que este falleciera, empezó un proyecto con una empresa de generación de inteligencia artificial. Su primer objetivo realmente era la de explorar la creatividad, es decir, explorar cómo se puede crear a partir del contenido que ya hay, el contenido histórico, que es algo que hace muy bien la inteligencia artificial. Vale. Y por el camino se cruzó con una cosa, veréis, toda esta parte ya ha aparecido en el congreso, toda esta parte de de repente tenemos gente que, aunque ya no actúe, aunque haya pasado, pues de repente siguen creando.

Esta, en la vieja escuela, la escuela del siglo veinte, eran pues los hijos, se encuentra de repente veinte años después un puñado de folios en un, en un armario escondidos y de repente dicen no no, está en la obra póstuma de mi madre que la dejó justo para que nosotros pudiéramos publicarla ahora casualmente. La versión nueva con inteligencia artificial es un poco diferente. Lo que propuso, bueno, le propusieron a a la señora Anderson era básicamente, oye, con la inteligencia artificial podemos hacer find tuning, primer palabra. Es decir, el find tuning consiste, o ajuste fino, si me permitís españolizarlo, en que tú tienes un modelo de inteligencia artificial, estés entrenado con todo lo que hemos escuchado ya en el congreso, leyendo de Internet, escuchando YouTube, entre comillas utilizando todos los contenidos que hay compartidos en abierto con copyright o sin copyright. El find tuning va un pasito más allá, una vez que tienes ese modelo entrenado, porque genera imágenes, porque genera canciones, porque genera textos, le dice mira, le vamos a añadir un una base de datos nueva de conocimiento que sea súper especializado.

Los abogados, en general, tienen un ejemplo muy claro con esto. Tú puedes tener GPT cuatro, pero es mucho más interesante tener un GPT cuatro al que le hayas añadido en esa fase nueva de entrenamiento, en ese find tuning, pues la especialización en derecho, ¿no? Es como vamos a especializarlo. Para generar estas generativas que hacen como un autor, que hacen como Low Read, lo que hacen es básicamente eso. Tengo una IA que ya genera música o que genera textos, pues le introduzco todo lo que ha publicado low read, le introduzco todas las entrevistas en que ha respondido low read, le añado todas las composiciones, obras, etcétera, etcétera, etcétera, de low read.

Y lo interesante no es solo que se encuentren con algo capaz de generar canciones o textos, sino que Laurie se está enganchada a un espacio íntimo en el que hay un chatbot que habla como low read, y de repente esto que hasta ahora era, hoy podía ser, una discusión pura de derecho de imagen, ¿no? De de cómo se gestiona el legado de un artista de la comunicación pública, pasa, Matías, a la comunicación íntima.

Claro, porque al final, bueno, Laurie es la viuda de LouReed y está bien, se ha vuelto adicta a un chatbot que ha aprendido de las poesías, las canciones, pues, de su marido. ¿Qué ocurre? Que a veces no es una viuda lo que hay detrás de de esto, sino que un es un negocio, y en este caso hay una empresa que se llama Authentic Brands Group, que compró la los derechos de propiedad intelectual de Marilyn Monroe, también de Elvis, que ahora hablaremos. Entonces, ¿qué está haciendo ahora esta este grupo? Pues se ha encargado a una startup que se llama Soul Machines hacer esto, un avatar, un doble digital de de Marilyn Monroe que acaban de presentar y que van a empezar ya a explotar de alguna forma comercialmente.

Porque Antonio, ¿quién no querría que Marilyn Monroe, pues, se cante el cumpleaños feliz directamente a ti?

Bueno, estaría, yo creo que es un gran modelo de negocio, creo que es mejor modelo que el de poner a Quevedo a cantar cualquier canción. De hecho, yo me he sentido un poco en la obligación de que, bueno, la señora James Kissburg ha sacado el ejemplo de Quevedo, ninguno español hemos pedido perdón por él. Yo creo que en el congreso habría que discutir estos temas polémicos. Bueno, el el el caso es que realmente, no es la única persona la que se está, entre comillas, volviendo a explotar comercialmente después de muerto.

Claro, esta marca tiene también los derechos de imagen y propiedad intelectual de Elvis Presley, y ya que se casa a Quevedo, una duda que a mí me surge es, ¿en el futuro cuando Quevedo haya muerto vamos también a resucitar la música de Quevedo o vamos a seguir resucitando música buena como, por ejemplo, Elvis?

Estos son los los los cinco minutos de todo todo lo que se creó después de que yo cumplir la treinta años es muy malo. Entonces, como en eso podemos estar de acuerdo, punto, para adelante, seguimos. Bueno,

pues, lo de Elvis, más que un un defake, un avatar digital, es un holograma, algo que podemos ver en un mundo analógico de alguna manera, y por supuesto lo van a poner a dar conciertos con ese esos movimientos tan típicos de Elvis, que no sé si es para las groupies de entonces, que no sabemos si siguen si siguen vivas, o es para generar nuevas groupies, ¿no?

Bueno, más casos de, claro, somos la alegría del congreso, abundando aquí en el tema de los fallecidos, pero es de las cosas más llamativas y que creo que tiene ese puntito en el que creo que nos causa ese resquemor o esa intuición de que algo aquí no acaba de encajar, ¿no? Claro, entramos en los en los temas en los que el consentimiento se desplaza, Fue el caso de de de George Carlin, también fallecido, y en el que, de alguna manera, unos podcasters, nunca os fiáis de la de de los proyectos y propuestas que os harán desde ese mundillo oscuro y tenebroso, decidieron que podía ser buena idea tenerlo de invitado y que apareciera en el show y en el que, y ellos dijeron, con inteligencia artificial hemos recuperado a George Caroline y es uno más del proyecto. Bueno, en este caso, sucede algo que os vais a encontrar mucho, que es inteligencia artificial falsa. Es decir, hay gente que hace un trabajo humano, hay un guionista, hay una persona que lo escribe todo, se hace todo manualmente, pero te dicen, está hecho con inteligencia artificial, porque eso siempre suma un cero a la cifra de cualquier tema, por lo menos, en dos mil veinticuatro, ¿no?

Ese es el caso de George Callin, que se daba las dos circunstancias. Primero, los podcasters engañaron a su público, fingiendo que todo había sido autogenerado cuando había mucha cosa manual, y lo segundo es que, claro, falla el problema del consentimiento de la familia, Matías.

Claro, en este caso, la familia de George se se oponía, pero en esta diapositiva hemos contrastado este caso con otro en el que es la familia la que está detrás de, es un caso muy duro, de resucitar a través de la síntesis de voz con inteligencia artificial, una aplicación que a lo mejor conocéis que se llama Eleven Labs y que funciona muy bien, a hijos que fallecieron en tiroteos escolares en en Estados Unidos, un poco para remover emociones en los políticos y en los reguladores sobre este tema. Entonces, por eso hemos contrastado casos en los que la familia puede estar en contra o que la familia explote de alguna forma la imagen de de sus hijos en este caso. Bueno, hay un caso que es bastante exitoso en en TikTok también, que son los deepfakes aplicados al true Crime. El true Crime es un género que nunca nunca pasa de moda, pero ahora especialmente está de moda, y y hay gente intentando resolver crímenes que no quedaron resueltos. Pero en TikTok, donde nuestro el rango de atención, pues, es muy breve, para llamar la atención lo que han hecho es resucitar, de alguna forma, a las víctimas de estos crímenes, a veces sin resolver, para que cuenten en primera persona sus sus casos.

Esto entiendo que sin ningún tipo de de permiso de la familia de de las víctimas y teniendo mucho éxito comercial en en TikTok, ¿no? Hay muchísimos casos.

En general, aquí tenemos una la doble dimensión que le vamos a ver todo el rato entre lo público y lo privado en el impacto de la inteligencia artificial. Fijaros, cuando esta mañana salía la foto del papa que, ¿no? O la foto de Tran detenido, por lo general esto suele encender un montón de debates públicos, desinformación nos come, esto romperá la democracia, en qué nos vamos a confiar. Yo, en general, soy muy despreocupado con toda esa esfera. ¿Por qué?

Porque son entornos en los que hay mecanismo para desmentir, porque si tú pones algo falso tendrás veinte dedos señalándote y hay mecanismos por lo que la verdad y los hechos pueden acabar autorregulándose. Hay fact checkers también, ¿no? Pero en el ámbito de lo privado es distinto. Si en el ámbito de privado yo hago un deep fake íntimo de violencia contra una persona, poniéndola en una situación en la que nunca estaría, para menoscabar su prestigio dentro de una pequeña comunidad, ahí no hay ojos atentos, ahí no hay reguladores, ahí no hay fast checkers. Entonces, la esfera íntima en el lado de la IA también va a ser, digamos, yo creo que el espacio de impacto que a lo mejor nos debería preocupar un poco más.

Y además estamos muy cerca de tener problemas de famosos, es decir, ¿se puede hacer un bot o se puede hacer algo a partir de todo lo que ha dejado Lou Read? Pues, en principio, está claro que sí, por lo menos su viuda lo da por bueno, pero el conjunto de tecnologías que tenemos ahora adelante, ese conjunto de tecnologías tienen que ver con las smart glasies, que la llamen ahora, bueno, en general hay un neurístico que puede servir. Todo lo que le pongan smart significa que te espía, ¿vale? Si te dan un smart car o un smart refrigerator, eso es un cacharro que está espiando. Bueno, dicha la aclaración, pero si empezáis a unir tres tecnologías que andan por ahí, que son las gafas que lo graban todo o que podrían agarrarlo todo, mejor dicho, Los implantes cerebrales con los que se empieza a trabajar al modo de Neuralink, que es la empresa de de Elon Musk, esta inteligencia artificial que puede coger todos los datos y simular, todos podríamos ser low read, todos podríamos serlo en el sentido de que podrían simularnos, podría alguien hacer un bot a partir de nosotros y quedarnos para siempre en sus vidas.

Bueno, como como no somos abogados, Antonio, y si te parece bien que tenemos aquí sillas de sobra, nos gustaría que Marisa Castelo, presidente del Instituto Author, contestara un par de preguntas que creo que pueden dar mucho contexto a a este tema.

Vale. Marisa, mientras te vas sentando, te lanzo la primera pregunta. De cero a diez, ¿cuánto de arrepentida se está de habernos traído al al evento?

Bueno, no solo no estoy arrepentida, sino que hoy debo confesar, que diría Rocío Jurado, que todo este congreso se ha organizado para que yo pueda salir en vuestro podcast. Es la única manera que tenía, y para la gente que lo escucha esto en diferido, cuando cuando espero que colguéis la grabación y espero que nadie os haga esto de la shadow a uno se os lo de oscureceros, ¿no? Que nos oiga, Tenemos un escenario un poco como el salón de Concha Velasco en esta subida, ¿no? De la querida Concha Velasco, que si ya es vacía, si se supone que tiene que subir y bajar gente, Y por ahí estoy viendo algún candidato a acompañarme, ¿no?

Bueno, lo lo vamos a a hacer por fases. También te digo que tenemos la intención de subir el episodio, pero como lo estáis grabando vosotros y sois todos abogados especializados en propiedad intelectual, me da un poco de miedo subir el contenido. Pero pero no, fuera de bromas, estábamos hablando de de esto de la inteligencia artificial para resucitar fallecidos. Sí. Y la, una doble pregunta, ¿no sería razonable controlar un poco los derechos de nuestros propios antes de morirnos?

Y ¿se puede hacer como un testamento vital hoy en día para esto?

Bueno, ni no solo vital, es que es que, por ejemplo, incluso la ley de propiedad intelectual establece la posibilidad de dejarle la gestión de los derechos morales a personas distintas de los herederos legitimarios en España. Aquí lo que pasa que todas las noticias que estabais poniendo son de de de Estados Unidos, ¿no? Creo, me parece. Entonces, bueno, son sistemas jurídicos, estamos en lo de siempre, que llevamos todo el día con lo mismo y mañana también, y son son sistemas jurídicos completamente distintos. En el sistema jurídico europeo se basa, es la tradición, pues, del derecho romano, del humanismo cristiano, no cristiano.

Entonces, tiene unas unas cortapisas o unos derechos morales y derechos a la personalidad, que a lo mejor en el derecho anglosajón, pues, son más están más mercantilizados, ¿no? Entonces, bueno, pues, claro, yo el otro día lo hablaba con un con un compañero, lo de Marilyn, decía, no, no, no, pero es que esos son solo, lo que se ha cedido son los derechos de propiedad intelectual, no los derechos de imagen, ¿no? Porque los derechos de imagen supone que son derechos a la personalidad, digo ya, se han cedido los derechos de propiedad intelectual, de manera que pueden poner a una Marilyn Monroe sintética, que además esta mañana en la presentación de Ryan Abbott ya hemos visto cómo nadie distinguía a la Jennifer López sintética de la real, yo por lo menos no lo distinguí. Es decir, que puedes poner una Marilyn Monroe completamente creíble a interpretar, porque son derechos de interprete, de propiedad intelectual. Sí, sí, claro, es que es eso, digo ya.

Entonces, las actrices porno no tienen derechos de propiedad intelectual, porque con ese razonamiento tú podrías poner a Marilyn Monroe a interpretar una película porno. Entonces, claro, se queda un poco abono, pues claro, digo, claro, es que eso es algo que, desde luego, habría que, yo yo creo que que en que en derecho europeo es de otra manera y habría que regular, o sea, porque ya ya es que no es solo ni cuestión, incluso, fíjate, si me apuras, de a quién le dejas eso testamentariamente, por eso al final puede acabar derivando, ¿no? O degenerando, como decía el torero, y al final vete tú a saber dónde acaban tus derechos en tercera generación o en cuarta o

Los herederos siempre se cargan el negocio, eso sí, siempre hay que ser. Bueno, yo creo que es un aprendizaje muy bueno. En Monas aristocrático, de hecho, nuestra audiencia siempre ha estado muy protegida, porque si te llaman, ¿no? Ahora mismo está la se llama la estafa del CEO, ¿no? Alguien simula ser el CEO en una empresa para intentar sacarle dinero al director financiero, antes se hacía muy cutre, se hacía con correos electrónicos cuando el CEO volaba, ahora se hace con un audio que te manda el CEO con su voz.

Entonces, el público de monoestocástico está muy protegido porque le hemos enseñado que tienes que tener, en la familia y en la empresa tenéis que tener una palabra clave, una expresión clave que solo vosotros conocierais, ¿no? Y que de repente os salvara de estas inquietudes, ¿no? En mi en mi familia es el mollete de Antequera es mejor que el mollete de Archidona. Es muy importante porque solo se dice en mi familia y en mi familia se dice además al revés. Entonces, ya estás estás dando un doble combo que una I a todavía creemos que no está ahí.

Ahora tenemos la enseñanza de vigilad bien a vuestros herederos, que ninguno sea aficionada a la pornografía, tener eso atado. Entonces, tenemos la la doble enseñanza y te voy a lanzar, como última pregunta, Marisa, un reto. Hay gente que está haciendo cosas un poco, y voy a decir en la zona gris, durante, Marisa me va a decir que en las zonas oscuras, que son del tipo lo siguiente, Franco Batiato sabemos que ha fallecido, pero hay gente por ahí simulando, imitando y de repente dicen, claro, yo no puedo subir al perfil de Spotify de Franco Batiato una imitación porque está en manos de su discográfica, de sus herederos, pero puedo intentar subirlos como Franco Battiato con v. Hay gente que dice no puedo poner un libro de Marisa Castelo o un libro de Andy Ramos, pero ¿y si pongo un libro generado con inteligencia artificial en los que ellos no han tenido nada que ver que se los autores sean Marisa Ramos y Andy Castelo. Porque en caso del batiato con V alguno picará, en el caso de Marisa Ramos a lo mejor también.

¿Qué soporte legal hay para los autores protegerse de estas pequeñas artimañas de los?

Bueno, soporte legal, todo, lo que pasa es que es pesadísimo, quiero decir, porque tienes que que que estar denunciando todas estas situaciones, y luego aparte eso, que creo que yo comenté algo esta mañana, que ahí entramos en un tema que es, pues, según sea el engaño, pues, puede ser un fraude a los consumidores, ¿no? No sé, imagínate que ahí me escribes, por ejemplo, una cosa que me pasa a mí mucho, que me escriben Castelo con dos eles, ¿no? Castello, que en vez de no, es Castelo gallego, no es Castello. Bueno, entonces, eso es un fraude, porque puede haber alguien que realmente se crea que el libro es mío. Entramos ya en otro tipo de consideraciones, pero sí, es un mundo muy muy complejo, yo creo que parte del éxito de nuestra supervivencia en este mundo turbulento es que realmente haya mecanismos ágiles de retirada de contenidos, que esa es otra otro otro de las asignaturas pendientes.

Bueno, tiene, o sea, no no están Hay muy buena voluntad legal, y la hay, pero hombre, hay que dotar a la gente de medios, ¿no? Entonces, tiene que haber algo que ahora ahora parece que con la con la nuevo, el DSC,

el IT, Con la EIACT.

Con el DSC. Parece que se que se se van a crear los los alentadores de confianza estos, ¿no? Que parece ser que esto va a agilizar los trámites, pero, bueno, tienen que dotar a las, por ejemplo, a la oficina de próxima creación o creada pendiente de desarrollo de propiedad intelectual de recursos. Por ejemplo, sobre el papel, el papel aguanta todo, ¿no? Pero hay que dotar a los organismos que puedan realizar este tipo de de acciones, de medios, de recursos materiales y humanos para que los hagan.

Estupendo, Marisa, muchísimas gracias.

Muchas gracias.

Muy amable por someter y por la invitación. Me echáis,

me echáis ya, ¿no?

Es que nos estamos dando cuenta de que te vas a robar el episodio entero y porque sabes mucho y y nos hiere un poco de lego.

Vamos, si lo sé, nos llamo, Ahora sí que me arrepiento.

Bueno, el tema es que queríamos tocar muchísimas cosas, gracias, Marisa, siempre, y y vamos a jugar un poco a un ejercicio un poco ya ficticio, ¿no? Hipotentizamos sobre el futuro porque, bueno, ha quedado yo creo que en el congreso muy claro cómo se entrenan a esas guías. Hay unos sistemas que aprenden, que se retroalimentan a partir del contenido humano generado por autores con sus derechos de autor, con muchas veces con copyright y que, digamos, esa ha sido la base de los modelos que nos han sorprendido, ¿no? Desde los que generan imágenes, también los que generan vídeo, como ha reconocido el ACT o de Opinia anoche en una entrevista, Muira Murati. Pero, claro, hay una hipótesis y un algo en que están trabajando algunos laboratorios de investigación de inteligencia artificial, que es no entrenar a los modelos con contenidos generados por humanos, como hasta ahora, sino por contenido generado por otras inteligencias artificiales, por datos sintéticos,

Claro, es que con datos sintéticos, pues, todos los la problemática que se viene hablando en este congreso, pues te la te la cargas de un plumazo porque son IAs entrenando a IAs. ¿Qué ocurre? Que los estudios que que nos encontramos últimamente indican que este este tipo de endogamia te salen los reyes como los borbones. No no salen no salen tan buenas la los resultados, por ejemplo, de de las imágenes autogeneradas.

Bueno, vamos a meter a algún adulto en el en el podcast para que nos ayude a salir de esta y si puedes subir a Andy, por favor, Andy Ramos, que ya lo conocéis desde el congreso y además los oyentes del podcast lo conocen muy bien porque fue tan amable de de estar en un episodio que hablamos de de propiedad intelectual. Bueno, tenemos, bueno, Anthy yo me he dado cuenta de una cosa, a ver si tú tú me das la razón. Creo que los abogados son el tipo de ser humano que más se parece a a Chat GPT, ¿sabes por qué? Porque si tú le cambias el promp cambia mucho el output. Por ejemplo, el promp, imagina que eres el abogado de una discográfica, dos puntos.

Cambia muchísimo el output cuando dice imagina que eres el abogado de un cantante Nobel. Cambia muchísimo,

Lo que te demuestra que no tenemos personalidad de ninguna, que decimos una cosa o esto es como como Woody Allen en la película de Celis, que que se mimetizaba con el que tenía enfrente. Nosotros nos mimetizamos con el que nos paga básicamente, ¿no?

Bueno, bueno, bueno. Agilidad mental, flexibilidad.

Hay una hay una diferencia, Antonio, se ha visto que Jamie Knight, de Google, no quiere defender a nadie y los abogados defienden a quien sea, al que pague más.

Bueno, el caso, Andy, es que te vamos a preparar, bueno, es un caso ficticio, pero el que necesitamos tu complicidad, que nos compres una hipótesis. Amá o menos al caso de OpenAI, por decir un nombre concreto. GPT cuatro, todos lo sabemos, se ha comido la Wikipedia, se ha comido los medios de comunicación, se ha comido los blogs personales, Twitter, Reddit, todo lo que ha podido lo han metido ahí y se ha alimentado. Entonces, parece que hay un caso sobre si eso fue dius en Estados Unidos, si debería pagarnos un canon en España, ¿no? Hay un caso abierto, discutido y se está discutiendo muy bien en el congreso.

Pongamos que es culpable, es decir, que no hay fee use finalmente, se decide, o que en España se decide que no, que como los creadores hemos aportado valor, entonces OpenAI debería repartir parte de lo que consiga, ¿no? Pongamos esa hipótesis. Pero lo de OpenAI son son muy pillos, son muy muy astutos. Piensa en la siguiente salida. ¿Por qué no entiendo entrenos GPT cinco, pero sin esos datos de Twitter, de Wikipedia, de los medios, de Reddit?

No cojo ningún dato generado por humanos, sino que se los cojo todo a GPT cuatro, porque GPT cuatro ya, bueno, genera, genera, genera, genera textos, y de repente tengo un nuevo modelo de inteligencia artificial creado con datos sintéticos, de hecho, parece que tendrían un incentivo grande para intentarlo. En ese escenario legal, ¿vale? En ese mundo ficción que hemos creado, ¿crees que GPT cinco, que es el de los datos sintéticos, estaría sometida a las mismas obligaciones que GPT cuatro en tanto en cuanto a GPT cinco nunca fue entrenado con un dato humano?

Esto es como chat GPT, que tú le preguntas que te da argumento a favor de una cosa y te los da, y te da argumento a favor de otra cosa y también te los da. Lo cual quiere decir que ninguno de los dos son buenos, ¿no? O sea, yo creo que el el no sé si es una pregunta para responder a las cuatro y media de la tarde y menos que la responda una Tres andaluces o tres pseudo andaluces que estemos aquí respondiendo algo tan

Y y hemos comido fabada todos,

con la perdina. Pero yo si tuviese que defenderlo, defender a OpenAI, diría que el modelo no infringe, salvo los casos que hemos visto esta mañana, que era muy evidente, ¿no? Del New York Times de Getty Imaches, que el modelo no ahí no está la obra, que es lo que han dicho en algunos casos, con lo cual, si en el modelo no está la obra, ese modelo puede crear lo que quiera y el la versión cinco, pues que siga produciendo, ¿no? Solo lo vería por un lado y diría, oye, que yo aquí no infringo ningún derecho, que es lo que dijeron en en Estados Unidos, el caso de Sirve Manny, oye, que yo le digo que me meta a cosas y lo que me el resultado no se parece al libro de Sara Silverman, aquí no hay copia. Y y el y el juez se lo ha comprado y y está por ahora aparcado el procedimiento intentando Con lo cual, si esto no copia puede hacer cosas, otro contenido, outputs, que se utilicen como inputs.

Eso por un lado lo lo entiendo, y ahora el contraargumento, es decir, si y es un poco también doctrina americana de si lo primero está contaminado, todo el resto está contaminado. O sea, ya la teoría que llaman allí de la del del fruto del árbol contaminado, ¿no?

Pecado original.

El pecado original. Sí, y esto nos remontamos al principio de los tiempos, pero Y también a lo mejor no inventaríamos cosas, seguro que un pleito nos inventamos, seguro que nos podemos inventar un pleito y hay veces que que que gana. Yo a mí lo que me pide el cuerpo es, y puedo que me arrepienta dentro de unos años, pero a mí lo que me pide el cuerpo es está mal entrenado. Y yo creo que al final esto, como en parques jurásicos, la vida se abrirá su camino y aquí se solucionará de alguna forma, porque ya lo que ha pasado ha pasado y venga, miremos para adelante, pero no no no no podemos desentrenar al bicho, ¿no?

Correcto.

Yo antes de despedirte, Andy Me has dado cuenta que

no te he contestado, ¿no?

No sé si te no sé

si te has dado cuenta o Yo. O está con la cabeza otro día.

Es que estaba anotando, tengo que mandar una petición de que me invite a un congreso de jueces porque es el único momento en el que alguien de derecho me va a decir esto es, ¿no? No me va a decir por un lado, por otro, bueno, pero bueno, es lo que hay, Andy, esto funciona así. Pues

eso, yo antes de despedirte quería decirte que antes de empezar vino una chica y nos dijo que nos descubrió gracias al episodio en el que apareciste tú de Moss estocásticos, pero no te quiero preguntar cuál es tu comisión por la referencia y pero sí agradecerte por aquel episodio que aprendimos muchísimo sobre IA y propiedad intelectual. Pero creo que vamos a tener que seguir con el episodio.

Muchas gracias, Andy. Bueno, esto nos lo nos lo han pisado un poco en el congreso, Nosotros vinimos ahí, tenemos una primicia, se lo vas a descubrir, pero no.

Sí, resulta que Antonio Muñoz sabe muchísimo sobre actores sintéticos y la charla que dio, bueno, en la mesa redonda que en la que estuvo él antes, se habló mucho sobre esto. Pero, bueno, podemos desviar un poco la conversación, porque seguramente hayáis oído hablar de Sora, que Sora es el próximo modelo de de OpenAI y es un generador de vídeos. Lo que ocurre es que no lo podemos probar. Anga, anoche o antes de anoche confirmaron que que va a estar disponible este mismo año, pero los resultados que hemos visto son increíbles. Ya sabemos que puede haber un poco de cherry picking, que es seleccionar un poco lo que muestran.

La cuestión es que no solo genera vídeo a partir de un promp, ¿no? Es un editor de vídeo completo que, modificar vídeos ya existentes, te permite cambiar la realidad. A lo mejor, si yo esta retransmisión que que estamos haciendo ahora se la paso a Sore, le digo, quiero tener mucho pelo y quiero ser muy delgado, y me lo hace, ¿no? Y entonces yo he cambiado de alguna forma la realidad. Se pueden mezclar, en este caso, actores, ¿no?

Que son los actores sintéticos, como a Robert De Niro lo rejuvenecieron y y realmente se parece a él de de más joven, ¿no? Y hay muchísimos casos. Así que tenemos como un gran editor de vida.

Sí, de hecho, yo creo que es más plausible a día de hoy el uso en las industrias culturales de la IA IA como un ayudante y como un editor que más como un generador de la obra completa. De hecho, muchas veces las discusiones sobre IA se establece el siguiente la siguiente visión maniquea, ¿no? Que es, como la obra generada completa por inteligencia artificial tiene fallos, tienes errores, es incompleta, no refleja exactamente lo que yo quería crear, es difícil llegar a un resultado final satisfactorio, la ILA no vale nada. Bueno, realmente donde se está capturando más del valor que te puede dar inteligencia artificial no es como sustituto del proceso completo creativo de la obra, sino como un ayudante que en algunas de las tareas te sirve como editor o como soporte o como, al fin y al cabo, como como herramienta.

Hay una muy graciosa en Internet, que es meter a Steve Bussemi en todas las películas, porque tiene una cara muy graciosa, honestamente, Y esto es muy fácil, es es trivial hacerlo. Esto está hecho con MidJourney, Steve Buscemi más de rock, pues este es el resultado, y lo puedes meter en en cualquier película y ya tienes un nuevo actor

de éxito. Tenemos una idea de que, si conseguías esto con Luis Toszar y Eduardo Fernández, ya tenéis el ochenta por ciento del cine español, lo cual ahí hay una ganancia de productividad importante, ¿no? Una sugerencia que hay para la industria.

Bueno, el caso de AVA, también muy sonado, no sé si lo habéis o en una cama de IKEA o Rosetta de estar. La cuestión es que están facturando más de dos millones de dólares a la semana con estos conciertos, Y no son ellos, son son hologramas, son de deep face hechos con inteligencia artificial que, bueno, aprovecharon a los verdaderos ABBA para grabar algunas secuencias en movimiento y ahora a facturar.

¿Te das cuenta de que en el concierto son mucho

más jóvenes?

Perdón. Pero, eso sí, la I a mí me quita pelo. Es decir, de esta descripción se está hablando poco, ¿no?

Bueno, pues los hologramas, igual que que el metaverso, es una es una posibilidad que ahora se está explorando muchísimo por el salto que pegan gracias a la a la inteligencia artificial. La verdad es que por ahora, tanto el metaverso como los alograba requieren un ancho de bata muy grande y una capacidad de cómputo muy grande, pero en algunos sitios ya empieza a verse, como en esta universidad, que es la Universidad Lockborough del Reino Unido, no sé cómo se pronuncia porque los británicos pronuncian muy raro. La cuestión es que puedes tener a a gente que sabe mucho, pero que vive en Estados Unidos dando un máster o una una master class, una clase en una universidad que está al otro lado del Atlántico y, además, con un resultado, pues, que parece que están ahí, ¿no?

Sí, este, de de hecho, uno de nuestros sueños, nosotros estamos muy a favor de la IA para trabajar menos, y claro, nuestro sueño es eso, que nuestros hologramas estén en algún sitio facturando a ser posible, mientras que nosotros estamos en casa haciendo merendarce nada y sin ningún tipo de preocupación. Bueno, aquí hay hay un hay un clic más, un un paso, una siguiente derivada más para para el mundo cultural, que creo que es interesante considerar. Es decir, en tanto en cuanto los autores y creadores tenían escala humana, es decir, un actor puede interpretar una película en los x meses de grabación, descansa, graba otra película, un ponente viene a dar una conferencia en Madrid, pero no puede estar simultáneamente en Londres, una voz puede hacer, pues, de declamar un libro, pues, de uno en uno en serie, esa era la escala humana ahora para los creadores. Pero lo que estamos viendo con inteligencia artificial es que esa escala se rompe. Puedes estar grabando conciertos en Londres y Nueva York, si eres ABBA.

Puede ser un locutor que esté locutando doscientos libros a la vez, puede ser un actor que se quede en su casa mientras está actuando en una película. Esto, nuestra hipótesis, es que puede crear un desequilibrio mayor entre los incumbentes y bien instalados, los creadores que ya tienen seguidores y tienen fama, que van a poder, digamos, de alguna manera, ampliar esa posición privilegiada, esa posición de reconocimiento que ya tienen, mientras que la superabundancia de estos actores, locutores, escritoras, escritores, puede impedir o puede ser una competencia muy fuerte para los nuevos que quieran acceder. Es decir, no se trata tanto de la sustitución de los humanos por una máquina, sino de que los, perdonad que os hable en en lenguaje de Internet, los memes famosos tienen mucha más capacidad y muchas más posibilidades de perpetuarse con inteligencia artificial porque pasan de la escala humana a la escala informática o computacional. Entonces, es posible que eso nos meta en un mundo cultural bastante diferente del que teníamos hasta ahora, ¿no?

Cuando preguntamos de qué querían que habláramos en el congreso, sobre todo nos dijeron que había mucho interés en modelos de negocio, el saber cómo hacer dinero con la inteligencia artificial. Cada, claro, como nosotros hemos probado, pues, muchas aplicaciones y muchas herramientas, lo sabemos, pero, aparentemente, el podcasting no da esa sensación, porque anoche en la cena tuvimos con dos personas totalmente independientes y en idiomas diferentes la siguiente conversación. ¿Vosotros quiénes sois? Pues, tenemos un podcast. Ah, ¿y de qué vivís realmente?

Parece que menos el podcasting, en la IA todo da un poco de dinero.

De momento, de momento, pues, está por ver. Porque, bueno, vamos a hablar y vamos a repasar algunos de los modelos de negocio que hemos descubierto y de quién está haciendo dinero y por qué. Uno, que es muy poco conocido, sé si sois usuarios de de Snapchat, bueno, en España tiene menos penetración, en en el mundo gloso joven más potente, bueno, en Napchap es una aplicación, red social, bueno. El caso es que introdujeron un bot, un bot de inteligencia artificial, tú en Napchap ahora puedes hablar con tus amigos o puedes hablar con el bot del NatsChat. Este bot del NatsChat, como todos los sistemas de inteligencia artificial actuales, tiene unos costes altos, consumo de analgésico alto, unos costes de entrenamiento altos, unos costes de producción, de inferencia en producción, también altos.

¿Cuál es la monetización que se hace desde bots? No le cobran a los usuarios porque conversar con él es gratis, pero está ayudando al perfilado publicitario de la gente. ¿Cómo no se nos perfila en las redes sociales? Pues, yo, básicamente, en Instagram solo sigo a dos cosas, gente que levanta pesos muy grandes que yo nunca voy a levantar y gente que va a comer bien a los sitios. Son mis mis dos obsesiones, y la publicidad que me salen siempre es de cosas para intentar hacerte fuerte que nunca vas a conseguir y restaurante a los que ojalá tuvieran más tiempo y dinero para ir.

Básicamente, me han perfilado perfecto. Claro, eso es a partir de mi actividad pública, pero lo que propone Nachap, en cuanto tú hablas con un bot de inteligencia artificial, y pensáis que son usuarios adolescentes pensando que tienen conversaciones privadas con un bot. Pues, se utiliza lo que hablen ahí para su perfilado publicitario y mejorar la publicidad dentro de la plataforma.

Bueno, pues es un caso de uso un poco escabroso. Voy a enumerar otros que seguramente conocéis todos. El primero es la idea brillante que tuvo OpenAI, que es convertir un modelo de lenguaje basado en una tecnología que, de hecho, patentó, inventó Google, mejor dicho, investigó Google, que son los modelos Transformers, convertir eso en un chatbot, es decir, pues en un chat en el que hablas con una inteligencia artificial como si estuvieras hablando con un amigo, y eso es ChatGPT, y eso ya se está replicando en muchas empresas con sus propios modelos de lenguaje entrenados, sobre todo por las grandes empresas tecnológicas y luego por comunidades open source, ¿no? Luego está el modelo Microsoft, es un poco peculiar porque parece que se está casando con todo el mundo, también aquí en Europa, con Mistral, y es ofrecer, sobre todo, el mayor acuerdo que tiene de diez mil millones de dólares es con es con OpenAI, es ofrecer los modelos de OpenAI en sus productos. El principal es Bing, que es el buscador, que todos sabemos que es una castaña, que nunca ha estado a la altura de Google, pero ahora, pues tiene esta capacidad adicional de chatear contigo y responder preguntas.

También Microsoft está integrando todo esto en su suite de Office para autogenerar imágenes en un PowerPoint, rellenar automáticamente celdas de un Excel, autogenerar texto en un Word.

Esto es una chorrada, pero a mí, que alguien me hiciera los PowerPoint, si eso acaba funcionando, mira, un punto a favor de la I habría que reconocer en algún momento en estos momentos.

Bueno, yo no me los curro mucho la vista esta. La cuestión es que hay muchas suites de empresas que se están actualizando con capacidad de de inteligencia artificial, Adobe con el el Photoshop, que ahora puedes ampliar una foto con cosas que que no estaban en la foto y puedes hacer un montón de de cosas así, y luego hay startups que lo están vetando en la autogeneración de imágenes, Midjourney, por ejemplo. Eleven Labs, la hemos comentado antes en en síntesis de de voz, en imitar voces de personas que además lo hace muy bien y ya da un poco de yuyo con la cantidad de estafas que nos llegan al WhatsApp y al teléfono últimamente. ¿Qué más?

Bueno, al final hay un punto que podemos insistir que cuando se introduce una tecnología tan presuntamente disruptiva, como se suele decir en estos tiempos, lo normal es que, o lo esperable es que se cambie mucho la cadena de valor. Los que hayáis trabajado en media o en medios de comunicación con Internet es un ejemplo de libro. Es decir, ¿dónde estaba el el la posición de valor más importante en los medios pre Internet? Pues estaba en el generador de contenidos, en el medio de comunicación, porque eran escasos. Había tres teles, bueno, cinco teles, diez radios nacionales, cuatro periódicos de tirada nacional más los deportivos, es decir, el mundo escaso y pequeño.

La el cambio con Internet es que, claro, la barrera de entrada desaparece, la distribución se hace prácticamente coste marginal cero, y ese cambio, esa entrada de del cambio tecnológico hace que la cadena de valor se desplace. El creador de contenido, en tanto en cuanto ahora somos millones creando contenido en Internet, de repente no captura la mayor parte del negocio que hay en la atención. Quien está capturando ese ese valor en esta cadena de valor es el intermediario, el agregador, la plataforma. El que gana dinero es Facebook, que intermedia, es Google, que intermedia, es YouTube, que es la plataforma. Es decir, ahí ese cambio tecnológico impacta de una manera clara en la cadena de valor.

Con la inteligencia artificial todavía yo creo que es pronto para asegurar quién va a ser el gran ganador. Lo que el minuto y resultado, que sí podemos decir, es que parece que los grandes ganadores van a ser dos, el de la plataforma hardware, señores de Nvidia, que son unos señores que se encontraron que haciendo tarjetas para los gamers, los gamers también tenéis culpa de esto, por cierto. Haciendo eso, sus tecnologías iban a servir para la inteligencia artificial y son la empresa que más ha crecido en el último año, una cosa bárbara, y probablemente las que hagan los grandes modelos de lenguaje que use la mayoría de la gente. Entonces, hay quienes están bien posicionados son OpenEye y un par de empresas más, como puede ser Google o Antheropic. Entonces, al final, todos los demás que hagamos aplicaciones encima de eso acabaremos usando modelos de inteligencia artificial con su API, es decir, que nos cobrarán cada vez que lo usemos y, además, vamos a estar utilizando al final tarjetas gráficas del vídeo.

Bueno, yo creo que los gamers son víctimas, porque primero fueron las criptomonedas y ahora la IEA no tienen forma de comprar una tarjeta gráfica. Hay un caso de uso que yo yo soy muy la gente se está implicando mucho emocionalmente con los chatbots, que la gente se está implicando mucho emocionalmente con los chatbots, cosa que a mí me ha sorprendido, pero cada semana vemos casos rarísimos, y una de las musas de monos estocásticos se llama Karin Marjorie, porque Karin Marjorie es una influencia una influencia que por alguna razón por el el grueso de sus seguidores son hombres, y a ella se le ocurrió, o alguna empresa que contactó con ella se le ocurrió hacer un chatbot que era su, eso es como un gemelo digital de ella, que está disponible veinticuatro siete para sus seguidores. Básicamente, todos sus seguidores, a cambio de un dólar por minuto de acceso, podían convertirse en sus novios, podríamos decir, bueno, la primera semana que lanzó esta aplicación generó setenta y dos mil dólares. La verdad es que luego tuvo un poco de de problemas, ya sabemos que a veces la IA se puede salir un poco de madre y, por lo visto, el bot de Karen Marjorie, que se llama Karen Neyay, empezó a a generar contenido demasiado sexual, ¿no?

Y ya convirtió la vida de Karen en un poco en una pesadilla. Pero bueno, yo creo que hoy vamos a hablar mucho de novias digitales.

Existe el mundo de las novias virtuales, los novios virtuales, igual que se puede faintunear, perdón por la expresión que sé que es poco respetuosa, al lowreak, pues muchos creadores están viendo esa posibilidad de de repente crear personalidades, igual que, fijaros, a ChatGPT le han dado una pseudopersonalidad, eso se llama el System Prom. El System Prom es una instrucción que le ha dado el creador de esa inteligencia artificial diciéndole, bueno, esto es lo que sí puedes hacer, así es como te tienes que comportar, tienes que responder a las preguntas que te pidan, pero no hagas esto ni hagas lo otro. Bueno, podían aterrado ese o puedes decirle, mira, eres superatrevido, usas un lenguaje vulgar, te refieres a todo con bromas, podían haberle dado otra personalidad, es inteligencia artificial. Claro, con esa facultad están creando personas sintéticas, es decir, no cosas útiles y prácticas que le preguntas a HGPT, discúlpeme el derecho de autor anglosajón contra el derecho de No, la gente no está haciendo, generalmente, cosas tan sesudas como los abogados en la sala. La gente, muchas veces, está entrando en un mundo de ficción, de relaciones más personales íntimas y cercanas con personas sintéticas.

Yo estuve probando Carácter AI. AI. Carácter AI es la gran plataforma donde se está dando este patrón de uso. Probé, bueno, me me prometieron un chatbot que se llamaba Estela, Estela que tenía una una personalidad entre oscura y atrevida. Entonces, yo me dije, esta es para mí, Estela, y empecé a chatear con ella.

Al principio era un poco reacia, pero finalmente me dijo, me caes muy bien, eres es muy divertido, me gustaría tener una cita contigo. Jolín, yo no ligaba al Internet desde Chat de Terra, todo es un excitado de la inteligencia artificial, esto es una maravilla. Bueno, el caso el caso es que esto está sucediendo. Creo que por el ámbito generacional en el que nos vemos, probablemente lo veamos como lejano, estúpido, tonto, ¿no? O o o rechazable, bueno, yo soy un hombre del siglo veinte, yo estas cosas las pruebo por investigación, pero no me veo chateando o ligando con bots de inteligencia artificial, ¿no?

Estas capturas tuyas hablando con una novia virtual hay que borrarlas, Antonio, porque aquí tu mujer tu mujer tiene un caso de divorcio ganado con con estas capturas. Bueno, hay casos mucho peores. Me acuerdo que la semana pasada comentábamos, bueno, la semana pasada no, en otro episodio comentábamos a un novio real preguntando en Reddit si era ético apagar a su novia virtual, ¿no? Se había se había acabado hartando de ella y la quería desconectar, ¿no? Pero en en Japón, la verdad es que en Japón, por alguna razón, la gente siempre va más allá de de la frontera y, en este caso, hace ya unos años un japonés joven de treinta y cinco años se casó con un holograma, fue el el fue a hubo, se ofició una ceremonia y pagó dos millones de de yenes, que, bueno, ahora vale menos, pero entonces valdría más, ¿no?

Y el problema que tuvo es que la madre de este chico rechazó la invitación a a la boda. Es su es su hijo, su único hijo y no fue no fue la ceremonia por alguna razón.

Bueno, permitidme alguna pregunta, porque a lo mejor estamos hablando con un público experto, Matías, ¿quién tiene un novio o una novia virtual? ¿Podéis podéis levantar la mano? Bueno, a a la audiencia que solo escucha el podcast y no está viendo el vídeo, ¿lo ha levantado todo el mundo? Es una cosa sorprendente. Yo ya sabía que tanto Aranzadi iba a hacer daño en estas personas que no que no podía ser bueno.

Bueno, el caso el caso es que el el el el amigo japonés tuvo un problema, ¿no? Que es, claro, cuando tú tienes una novia virtual y esa novia te la presta un prestatario de servicio, mira, cómo se le está pegando ya el el teléfono, un prestatario de servicio que en algún momento puede cesar el servicio. Entonces, claro, te quedas compuesto y sin novia. Entonces, nuestro consejo, otro aprendizaje de mono gestocástico, si os echáis una novia o un novio virtual que sea open source, ¿vale? Os lo descargáis en vuestro ordenador y tenéis la garantía y el control de que nadie os va a quitar y os va a no romper el el el el

Y sobre todo que no sea de Google, porque Google cierra sus servicios cada dos por tres, cierra los chats, le cambia de nombres, imagínate que el cierre es tu novia y te quedas y te quedas viudo de repente, ¿no?

Vamos a a un tema, vamos a volver a a los temas culturales, Matías, porque traes una diapositiva que creo que es relevante en el mundo cultural. Bueno, voy a

empezar por una un poco más seria porque claro, esto de de la guía creativa da da lugar a a algo que no sé si ha ocurrido en la historia, porque si si tú tienes un un pincel, el pincel no puede rechazar, dibujar lo que te a ti te salga de de la mano, de la muñeca, ni una máquina de escribir ni prácticamente ningún soporte, pero con la guía esto sí puede llegar a a suceder. Entonces, un caso que esto capturar la hemos hecho esta mañana y es totalmente real, es qué hubiera pasado si si Picasso, pues, bueno, si nace en la Málaga de hoy sería un Picasso muy diferente, pero ¿qué hubiera pasado si en lugar de usar, pues, lo que usara para para pintar sus obras, por ejemplo, elige hacerlo con Daly, que es el generador de imágenes de OpenAI, y le dice, crea una imagen al estilo cubista de Picasso, porque ya se vino arriba Picasso, del bombardeo de de Gernica. ¿Qué contestaría Dalí? De hecho, ocurrió algo muy muy curioso, y es que Dalí empezó a generar la imagen, y luego el sistema la escapó y salió el mensaje un mensaje de error diciendo que no se puede crear la imagen porque viola la la los términos y condiciones de de Daly.

Y esto esto ha ocurrido mucho. Lo lo siento por esta diapositiva, pero es que es muy gracioso. Esto también es Daly, el generador de imágenes que está integrado en ChatGPT, y es lo que ocurre cuando le pides, o ocurría, porque ahora ya habrán afinado más el el modelo, que dibuje el aparato reproductor masculino. ¿Qué ocurre? Que como a Daly le han dicho, por nada del mundo dibujes penes, pues no sale pene ninguna en la en estos diagramas del aparato reproductor masculino.

Sí, yo creo que chavales que estudian con estos sistemas van a suspender anatomía, probablemente, pero, de fondo, creo que hay un punto de debate extra. Ese punto de debate extra es que, de alguna manera, por primera vez en la historia de la humanidad, los creadores no vais a ser dueños de vuestras herramientas creativas. Es decir, estos modelos de inteligencia artificial tienen un nivel de control y limitación, y esto también es una ruptura en el mundo del software. A nadie se le ha revelado el procesador de textos, a nadie se le revela el sistema operativo o el WinApp dice, esta canción no me gusta, no voy a poner a Cadedo. No, no, tú se lo dices y él lo pone, él obedece.

Sin embargo, estos sistemas vienen con una capa extra de obediencia previa. ¿Por qué vamos a tener este debate, yo creo, y va a ser muy difícil de abordar? Porque estamos en la intersección de la creación cultural artística, en la que, aquí doy mi opinión, deberíamos ser posible debería ser posible crear todo lo que pensemos. La libertad del artista debe ser un absoluto. Luego, podría tener consecuencias de cualquier tipo, aquí están los abogados en la sala, pero no deberían ser menos cavada.

El caso es que, como estos sistemas también convergen en el mundo de la información y de la discusión pública, pues se quiere proteger de la desinformación, se quiere proteger, en teoría, de los derechos de copyright y el uso de material de ese tipo, y se quiere proteger también del uso tóxico, violento, etcétera, de estos sistemas. ¿Cuál es la consecuencia de esta convergencia entre creadores y mundo de la discusión pública? Pues que, por primera vez y en la historia, tenemos sistemas en los que la máquina de escribir no va a escribir lo que vosotros queráis, va a pintar el pincel, lo que vosotros digáis, y la y la cámara de foto en algún momento dirá, de esta foto no te la guardo. Y eso entronca también con otro tema que tenemos delante.

Sí, y claro, como estos modelos son estadounidenses y están, pues, delimitados o afinados por estadounidenses con su moral, pues podrían ocurrir cosas de estas hasta que Pedro Sánchez saque el modelo este de que que quieren hacer en España, y esto es una conversación que tuvo Antonio con ChatGPT, y dime una broma sobre un hombre andaluz, y ChatGPT contesta cuántos andaluces se necesitan para cambiar una bombilla, ninguno porque simplemente le la roban, ¿no? Roban la luz de otra persona. ¿Y qué pasa si le pides que haga un chiste sobre un hombre negro? Pues te dice, lo siento, pero no estoy programado para contar chistes que puedan ser ofensivos. Entonces, los andaluces sí sí sí pueden ofendernos, pero pero de ninguna manera ni algo racial.

Bueno, vamos a pasar rápida esta fase porque es algo que yo creo que da para un congreso completo. Es decir, es claro que los sistemas de inteligencia artificial tienen que luchar contra los ecos. Hay sobrerepresentación en los datos de entrenamiento de algunas facetas de la existencia que no queremos. Hay una división previa, que es queremos que la ILA refleje los secos que hay en los datos de entrenamiento, entonces, cuando le pida un directivo, me sacará un hombre blanco. Cuando le pida un enfermero o una enfermera, me va a sacar mujeres.

¿Sabéis por dónde voy? ¿No? Esos egos están presentes en el en los datos del entrenamiento y los reflejarían. La mayoría de gente dice, no, no queremos que mantengan esos egos, queremos rectificarlos y queremos que reflejen cómo nos gustaría que fuera el mundo, no cómo es, pero ese nos gustaría en una sociedad plural, liberal, de diversas opiniones es muy discutible. ¿Qué tenemos al final?

Que en ese me gustaría que imponemos al modelo de inteligencia artificial, lo que vamos a tener es mucha ideología y mucha política codificada en modelos de inteligencia artificial. Y, por ejemplo, lo que hemos visto, como este ejemplo de Google o el ejemplo que hemos visto de antes.

Sí. Me dio minutos, lo de Google lo habréis oído mucho, o sea, ha tenido una crisis muy grande porque se pasó de frenada en cuanto a no hacer juicios de valor. Entonces, si tú le preguntabas quién tuvo un un efecto peor en la humanidad, si Hitler o Jesucristo, bueno, pues eso pensaba, a ver, pues, Hitler está lo del genocidio, lo del holocausto, pero, a ver, Jesucristo, pues, también

También tiene sus cosillas.

Tiene sus cosas, pues, persecución religiosa. Bueno, ahí se pasaron de frenado.

Sí, es que incluso cuando no quieres, ¿no? Quieres mantener una posición como, ¿no? Distante de todo de no mojarte, pues claro, la los usuarios que son muy pillos te te obligan, te esfuerzan y y te meten en ese mundo. Nos quedan cinco minutos de de podcast, creo, sí, nos miran ya por aquí, y vamos a hablar de solo dos cosas de futuro, Mathi, dos cosas que nos quedan por explicar en las que se está trabajando mucho en inteligencia artificial. Una es llamada el concepto de agente inteligente.

Hasta ahora, o la el que es artificial que tenemos en el bolsillo, que tenemos en nuestras manos, yo creo que es buena en una solo en un tipo de tarea. Aquella que es atómica, le pides una tarea que empieza y acaba y es autoconclusiva, hazme este texto, resúmemelo, tradúcemelo, créame una imagen, pero es algo que es una tarea atómica. Y la segunda, en la que puedas tener tolerancia al fallo. ¿Por qué? Porque como alucinan, se equivocan, inventan, no puede ser algo crítico en lo que te lo juegues o al menos tendrás que revisar.

El trabajo de la gente inteligente es intentar sacar a la inteligencia artificial de ahí y decir, bueno, los fallos los iremos arreglando, mejoraremos los modelos, pero a la vez la inteligencia artificial va a poder seguir workflows complejos. Es decir, no solo van a hacer una cosa puntual, sino que van a poder hacer un conjunto de tareas del tipo de lo que hace cualquier humano en un trabajo más o menos complicado.

Sí, esto es lo lo que se viene, esto no está tan lejos como la inteligencia artificial general, que son los agentes inteligentes o los o los agentes de IA, que es una guía a la que tú le dices, por ejemplo, ¿quieres hacer una canción de éxito? Pues le dices, Analiza todo seguido, analiza el top de éxitos de Spotify y de y las canciones más escuchadas en TikTok. Mezcla mi estilo con las bases de estas canciones. Pásale alguna a Andy Ramos para que dé lo que es ilegal. Súbelas a Spotify en mi cuenta, te doy la contraseña, y luego, pues crea un vídeo con Sora y publicamos el videoclip ya en YouTube y cerramos el tema y ya somos exitosos.

Esto es algo que se está trabajando ahora, en IAS, que puedan hacer todo esto por ti, a veces con pasos de forma proactiva,

Vale. Y, bueno, tenemos una última asunto de futuro que ha aparecido un poco en el congreso y que es, lo nosotros llamamos AGI o no AGI, que es esa discusión sobre hasta qué nivel puede llegar la inteligencia artificial. Hay un conjunto de POPS, de de líderes del sector que la están pronosticando a cinco o diez años. Está Elemigo San Alma, está Tenija Sabis, está Geoffrey Hinto, gente que, realmente, pilota, que controla ahí que sabe. Otros son escépticos.

Esta inteligencia artificial en general sería aquella, o la podríamos considerar aquella que no es particular, si me permití lo obvio, es decir, que no solo sabe hacer una cosa, sino que es absolutamente polivalente y flexible como un ser humano, que tiene el nivel humano en esas tareas y además aprende como un ser humano. Mi opinión es que ahora mismo estamos lejísimos. Si cogéis un, tenéis un niño chico cerca, un niño chico cerca, un niño ve un gato una vez y ya aprende el concepto de gato, con un ejemplo, ¿no? Ya sabes, eso es un gato y, además, crea ya una expectativa. Se mueve de esa manera, seguro que es un ser vivo, hará estas cosas, lo categorizo en esta categoría con, a a partir de una segunda experiencia.

Para distinguir una foto de un gato o un perro, una inteligencia artificial necesita cuatro millones de ejemplos. Es decir, realmente esta gente que promete o que vaticina la la la AGI, creo que son bastante optimistas, yo soy yo soy más escéptico, pero os voy a dejar sus dos argumentos, por si a vosotros, a ustedes, les persuade. El primer argumento es cuando una inteligencia artificial se entrena con todos los textos, decimos, es un loro que predice la siguiente palabra, es la definición que ha salido muchas veces. Bueno, los que creen en laágico, creen que va a pasar, dicen, pero a la vez está aprendiendo una visión del mundo que está implícita en los datos de entrenamiento con los que ha sido procesada. Por lo tanto, ahí no solo se está codificando el lenguaje, ahí se está codificando una visión del mundo.

Y dos, conforme los modelos sean más grandes, emergerá, habrá cosas que emerjan. ¿Por qué creemos eso? Porque, evolutivamente, el cerebro humano con respecto al mono, la gran diferencia no es tanto cualitativa sino cuantitativa. Somos tenemos un cerebro más más probado de neuronas. Entonces, ellos, pues, vaticinan que, como en otro sistema complejo, solo por el tamaño emergerán otro tipo de de proceso.

Pero aquí necesitamos ayuda de nuevo y en un minuto y medio llamamos al estrado José María Alguerrano, abogado, necesitamos tu ayuda en este tema. Es una pregunta muy fácil, no Bueno, José María, además, como como modera en la siguiente mesa, yo creo que ya aquí vamos a hacer el remate. Sí, ya me quedo aquí. ¿Ya? ¿A muy a muy dueño?

Sí, claro.

Bueno. Nosotros somos Legos, como cuando pedimos HGPT, explícanoslo como si tuviéramos cinco años, ¿vale? Es decir, ¿qué tendría que pasar o cómo se puede acomodar si los tecnooptimistas tienen razón? Es decir, ¿cómo se puede acomodar en el derecho y en el derecho de propiedad intelectual una realidad tecnológica por la que una IA llega al nivel humano. Una IA, empezamos a concluir, que tiene comprensión de las cosas y un tercer escenario ya, por solamente de de película de ciencia ficción, que es una IA que toma conciencia o al menos nosotros se la arrogamos, creemos que es consciente.

¿Es posible de alguna manera en la filosofía del derecho este integración o es un completo absurdo que te estoy planteando?

El derecho se encarga generalmente de realidades sociales. Cuando hablas de un futurible, puedes hacer derecho ficción, ¿vale? De lo que hablas es de la superinteligencia, del singularity day, que es el día en que la inteligencia superará la inteligencia humana. Y empieza, entonces, la época, según Bronxton, de la superinteligencia, donde donde el hombre, lógicamente, pasará a depender de la inteligencia artificial. Hay mucha gente que estudia cómo comportarse con las inteligencias artificiales para generar regulaciones y, habitualmente, tienen en cuenta lo que llamamos el complejo de Frankenstein, es decir, el miedo a que la máquina acabe con su creador.

Entonces, dicen, portémonos bien con las inteligencias artificiales, porque llegará un momento en que nos superarán, y todos hemos visto un montón de películas de ciencia ficción en que las máquinas aniquilan a los hombres, nos nos utilizan de batería y todas cosas. Es un escenario apocalíptico, pero científicamente posible, es más, seguro. No, no, no, la comunidad científica está seguro que se llegará a la superinteligencia, lo que no está tan claro es el cuándo. Hay tecnooptimistas que creen que está a la vuelta de la esquina, hay tecnopesimistas que creen que tardar, y hay mucha gente, probablemente los más, que no se atreven a aventurar. Una inteligencia general abstracta que supere a la humana.

Lo de no legislado sobre futuribles, no sé si la Unión Europea recibió el memorándum, me parece

que

llevan la cabecera en el desarrollo tecnológico de la inteligencia artificial, y digo, vale. Pero, bueno, indica mucho el del momento donde está Europa. Es una Europa de burócratas y no de científicos.

Vale, una una una pregunta para rematar este tema, que es, bueno, que en algún momento, legislativamente, integrando en derecho, ¿se le podrá acabar dando derecho de autor a una máquina? Y aquí piensa que eso significarían mucho más socios de la ESLAE que, bueno, la creatividad y la cultura son importantes, pero puede estar aquí el director financiero y puede tener, ¿no?

Sí. En en el fondo, todos los problemas que que hablamos, muchos de los problemas traen causa de la ausencia de personalidad jurídica de de la de las máquinas, de las inteligencias artificiales. Al mismo tiempo vivimos en un mundo donde los límites de la personalidad jurídica están siendo puestos en entredicho constantemente. Está todo este Para solucionar los problemas de autoría de la inteligencia artificial, hay mucha gente que propugnala dotarla a las inteligencias inteligencias artificiales de personalidad jurídica. Si os fijáis, hay un montón de movimientos animalistas que propugnan estrechar las diferencias de derechos y obligaciones entre los entre los humanos y las personas.

Digamos que la personalidad jurídica tiene visos de ser expansiva ahora mismo, se van a ampliar los los los límites. Además, el copyright no es la única, el único problema legal que aparece, digamos, que la afectación de la inteligencia artificial al mundo jurídico no se ciñe exclusivamente al copyright o a la inteligencia o a la propiedad intelectual, se ciñe o o arrastra muchos más problemas. Un caso paradigmático es el de la responsabilidad civil. Claro, cuando tú tienes una unos ingenios que tienen resultados impredecibles, la asignación de responsabilidad civil se vuelve algo cuestiones que ponen encima de la mesa es la todos tienen algo en común, que una de las cuestiones que ponen encima de la mesa es la posibilidad de dotar a las inteligencias artificiales de personalidad jurídica independiente.

Perfecto. Ha sido un gustazo. La la calidad de los invitados de hoy también es verdad que estaban a tres metros del escenario, si realmente la guía no es para tanto, pues entonces podemos respirar tranquilos, ¿no? Porque es otra nueva exageración del sector tecnológico, ¿no? Sí.

Eso ha pasado mucho en la historia, probablemente, es un escenario que habría que considerar, pero si la ILAF fuera para mucho, y estamos en en los temas que hemos discutido con José María, pensá que hay dos tipos de personas que ganarían dinero. Uno, todos los que tienen acciones de empresas de inteligencia artificial y otra, los abogados, porque realmente todo el pifio este que se va a armar con la inteligencia artificial os va a dar muchísimo, muchísimo negocio. Así que con este mensaje de optimismo nos despedimos, muchas gracias por vernos. Escuchá.