En este episodio converso con con Tomás Vergara, Investigador de Mila. Exploramos la fascinante trayectoria de Tomás, su decisión de dejar la ingeniería de software para dedicarse a la investigación en IA tras el surgimiento de modelos como ChatGPT. La conversación profundiza en los desafíos actuales y el futuro de la inteligencia artificial, abordando temas clave como la superinteligencia, los dilemas éticos y de seguridad, y las promesas de esta tecnología.Estos son algunos de los temas que exploramos:

🔎 Academia vs. industria: La "fuga de cerebros": Analizamos cómo las grandes empresas tecnológicas están contratando a académicos y profesores de inteligencia artificial con ofertas "millonarias", generando una especie de "crisis" en universidades como Stanford, ya que la industria ofrece más recursos para la investigación.

🤖 Superinteligencia vs. Inteligencia General: Tomás distingue entre la superinteligencia y la inteligencia general, señalando que la investigación actual se enfoca más en la primera, y discute el problema de "responsabilidad" (o accountability) de los modelos actuales, donde pueden cometer errores e incluso "mentir".

🔬 La investigación de Tomás y el Aprendizaje por Refuerzo (RL): Exploramos su escepticismo sobre la interpretabilidad mecanística de los modelos de lenguaje y su nuevo enfoque en el razonamiento y el aprendizaje por refuerzo (RL) para superar las limitaciones de los datos humanos en el entrenamiento de los modelos y permitirles "pensar" en un espacio continuo, más allá del lenguaje natural.

⚡ Infraestructura y escalabilidad: Se discute por qué una mayor infraestructura (más GPUs) es crucial para el desarrollo de la IA, permitiendo modelos más grandes, la generación de datos sintéticos y aprovechando las "leyes de escalado" que predicen mejoras de rendimiento.

⚠️ Los miedos reales de la IA: Tomás aborda los temores relacionados con la IA, especialmente los de Yoshua Bengio, quien fundó un nuevo instituto centrado en la seguridad. Se enfatiza que el mayor miedo es el mal uso de la IA por parte de actores con malas intenciones (ej. manipulación electoral), más que un escenario apocalíptico de "Terminator". También se mencionan los desafíos regulatorios y la carrera global en IA.

🚀 Un futuro optimista (y gradual) de la IA: A pesar de los desafíos, Tomás comparte una visión optimista sobre el futuro, anticipando una integración gradual y casi imperceptible de la IA en la vida cotidiana, automatizando muchas tareas cognitivas. Sin embargo, señala que la interacción con el mundo físico (como en la investigación médica) sigue siendo un gran desafío.

Una conversación reveladora sobre la próxima frontera de la inteligencia artificial, sus promesas y los desafíos que debemos abordar.