Bicicletas mentales

15 - Pablo Rubinstein (Gradient Defense) - Inteligencia artificial y seguridad informática


Listen Later

Notas:

1:00 Entusiasmo sobre la inteligencia artificial

4:30 y los miedos correspondientes

7:30 la carrera profesional de Pablo

11:50 las primeras épocas de Core (2000)

15:00 la evolución de Core

18:20 últimas épocas en Core (2017) 

24:00 Disarmista, la consultora de Futo

26:00 observación de malware en entornos aislados  

28:30 malware y ransomware

33:00 El libro de Nicole Perlroth https://www.amazon.com/This-They-Tell-World-Ends/dp/1635576059

34:30 cómo entra Pablo en la inteligencia artificial

39:20 nuestra empresa, Gradient Defense https://gradientdefense.com/

43:40 los experimentos que viene haciendo Pablo: fine-tuning

51:30 los videos de Andrej Karpathy https://www.youtube.com/c/AndrejKarpathy

54:00 el blog post - Manchurian Candidate https://gradientdefense.com/blog/can-you-simply-brainwash-an-llm

58:Editando un modelo de lenguaje con un cambio puntual

1:02: el lejano oeste de los modelos de lenguaje 

1:04 cómo confiar en un modelo que generó otro

1:06 todos los modelos son modificados por cuestiones políticas

1:08 el abaratamiento de los costos de entrenamiento en el futuro

1:10 ¿hay casos de ejecución remota en servidor a partir de prompts?

1:15 la historia de Langchain y cómo habilita a los modelos para interactuar con el mundo

1:20 la metáfora del LLM como el pajarito de los Simpsons, y el aprendiz de brujo de Fantasía

1:22 muchos clientes piden simplemente educación

1:24 usando un LLM para encontrar exploits 

1:25 la tesis de Pablo: verificación formal de programas

1:29 AutoGPT buscando exploits

1:31 Phishing automatizado con LLMs

...more
View all episodesView all episodes
Download on the App Store

Bicicletas mentalesBy Diego Basch