Un modelo que demuestra teoremas que nadie había demostrado, una ley europea que obliga a los chatbots a confesar que lo son y un ex-investigador de OpenAI que pone fecha a la superinteligencia: el episodio 21 de Tokenizados va de la delgada línea que separa recordar de descubrir.

¿La IA descubre o solo recuerda?

Abrimos con la pregunta incómoda del momento: cuando un modelo resuelve un problema abierto, ¿está generando ciencia nueva o simplemente rescatando algo que ya estaba ahí y nadie se había molestado en mirar? El caso que enciende el debate es Astra, el modelo de OpenAI que ha resuelto diez problemas matemáticos abiertos —entre ellos los grupos no-sofic y la conjetura de Connes— y, lo más importante, lo ha hecho dejando certificados verificables en Lean 4. No hay que fiarse de su palabra: la demostración se comprueba. Puedes leer el anuncio oficial y el hilo de Sébastien Bubeck explicando qué se ha conseguido exactamente.

El contrapeso llega desde MIT y Harvard. El Paper SDE (PDF) mide a los LLMs en el ciclo científico completo y el resultado baja los humos: los modelos son excelentes cerrando problemas bien planteados, pero siguen fallando justo donde empieza la ciencia de verdad, proponiendo hipótesis y diseñando los experimentos que las pondrían a prueba. Resolver no es lo mismo que preguntar.

El AI Act ya es real: la IA tiene que decir que es IA

El 2 de agosto dejó de ser teoría. Entró en vigor la nueva tanda de obligaciones de transparencia a ambos lados del Atlántico, y el resumen es sencillo: si hablas con una máquina, la máquina tiene que decírtelo, y si un contenido es sintético, tiene que llevar rastro.

En Europa manda el Artículo 50 del AI Act, que obliga a identificar los sistemas conversacionales y a marcar los deepfakes y el contenido generado. En California, la SB-942 va por el mismo camino exigiendo herramientas de identificación de contenido GenAI. Comentamos qué implica esto para quien construye producto: el marcado deja de ser un detalle de buenas prácticas y pasa a ser requisito.

ASI frente a AGI: los dos escenarios de Kokotajlo

Dedicamos un buen rato a la entrevista de Daniel Kokotajlo, ex-OpenAI y autor del escenario AI 2027. Su definición de Superinteligencia Artificial (ASI) es deliberadamente exigente: no basta con igualar a un humano competente —eso sería AGI—, hace falta superar al mejor humano en cualquier área.

A partir de ahí plantea dos futuros. Uno inminente y abrupto, donde la capacidad se dispara antes de que las instituciones tengan tiempo de reaccionar. Y otro de adaptación gradual, recogido en la propuesta alternativa AI 2040, donde la sociedad absorbe el cambio a un ritmo digerible. Si quieres contexto sobre por qué se le escucha tanto, su perfil en el TIME100 AI lo resume bien.

El fin de los silos: cómo la IA expande el trabajo

Este bloque nos pareció el más práctico del episodio. El informe de OpenAI sobre el uso de la IA en el trabajo arroja un dato que cambia la conversación: el 43,5% de las tareas concretas que la gente resuelve con IA pertenecen tradicionalmente a otros departamentos. El diseñador toca datos, el comercial redacta especificaciones, el desarrollador hace copy. La IA no está sustituyendo puestos tanto como está disolviendo las fronteras entre ellos.

Lo confirma el experimento de P&G recogido en The Cybernetic Teammate: una sola persona trabajando con IA produjo resultados comparables a los de un equipo humano completo sin ella. Para la lectura divulgativa, el análisis de Ethan Mollick es la mejor puerta de entrada.

Personaje del día: Jakub Pachocki

Cerramos con el Chief Scientist de OpenAI, el hombre que ocupó el sitio de Ilya Sutskever y una de las manos detrás de GPT-4 y del proyecto Strawberry. Repasamos su perfil a partir de su entrevista en MIT Technology Review y de las declaraciones de Altman sobre las fechas del “AI Researcher”. Un competidor de programación competitiva convertido en el responsable de decidir hacia dónde empuja el laboratorio más vigilado del mundo.

¡Gracias por acompañarnos un episodio más en Tokenizados! Suscríbete para no perderte ninguna actualización del mundo de la IA.