DiscoverBicicletas mentales15 - Pablo Rubinstein (Gradient Defense) - Inteligencia artificial y seguridad informática
15 - Pablo Rubinstein (Gradient Defense) - Inteligencia artificial y seguridad informática

15 - Pablo Rubinstein (Gradient Defense) - Inteligencia artificial y seguridad informática

Update: 2023-07-28
Share

Description

Notas:


1:00 Entusiasmo sobre la inteligencia artificial


4:30 y los miedos correspondientes


7:30 la carrera profesional de Pablo


11:50 las primeras épocas de Core (2000)


15:00 la evolución de Core


18:20 últimas épocas en Core (2017) 


24:00 Disarmista, la consultora de Futo


26:00 observación de malware en entornos aislados  


28:30 malware y ransomware


33:00 El libro de Nicole Perlroth https://www.amazon.com/This-They-Tell-World-Ends/dp/1635576059


34:30 cómo entra Pablo en la inteligencia artificial


39:20 nuestra empresa, Gradient Defense https://gradientdefense.com/


43:40 los experimentos que viene haciendo Pablo: fine-tuning


51:30 los videos de Andrej Karpathy https://www.youtube.com/c/AndrejKarpathy


54:00 el blog post - Manchurian Candidate https://gradientdefense.com/blog/can-you-simply-brainwash-an-llm


58:Editando un modelo de lenguaje con un cambio puntual


1:02 : el lejano oeste de los modelos de lenguaje 


1:04 cómo confiar en un modelo que generó otro


1:06 todos los modelos son modificados por cuestiones políticas


1:08 el abaratamiento de los costos de entrenamiento en el futuro


1:10 ¿hay casos de ejecución remota en servidor a partir de prompts?


1:15 la historia de Langchain y cómo habilita a los modelos para interactuar con el mundo


1:20 la metáfora del LLM como el pajarito de los Simpsons, y el aprendiz de brujo de Fantasía


1:22 muchos clientes piden simplemente educación


1:24 usando un LLM para encontrar exploits 


1:25 la tesis de Pablo: verificación formal de programas


1:29 AutoGPT buscando exploits


1:31 Phishing automatizado con LLMs

Comments 
loading
In Channel
00:00
00:00
1.0x

0.5x

0.8x

1.0x

1.25x

1.5x

2.0x

3.0x

Sleep Timer

Off

End of Episode

5 Minutes

10 Minutes

15 Minutes

30 Minutes

45 Minutes

60 Minutes

120 Minutes

15 - Pablo Rubinstein (Gradient Defense) - Inteligencia artificial y seguridad informática

15 - Pablo Rubinstein (Gradient Defense) - Inteligencia artificial y seguridad informática

Diego Basch