SE Radio 692: Sourabh Satish on Prompt Injection

Software Engineering Radio - the podcast for professional software developers

Вміст надано SE Radio Team and [email protected] (SE-Radio Team). Весь вміст подкастів, включаючи епізоди, графіку та описи подкастів, завантажується та надається безпосередньо компанією SE Radio Team and [email protected] (SE-Radio Team) або його партнером по платформі подкастів. Якщо ви вважаєте, що хтось використовує ваш захищений авторським правом твір без вашого дозволу, ви можете виконати процедуру, описану тут https://uk.player.fm/legal.

12d ago 1:04:36

MP3•Головна епізоду

Sourabh Satish, CTO and co-founder of Pangea, speaks with SE Radio's Brijesh Ammanath about prompt injection. Sourabh begins with the basic concepts underlying prompt injection and the key risks it introduces. From there, they take a deep dive into the OWASP Top 10 security concerns for LLMs, and Sourabh explains why prompt injection is the top risk in this list. He describes the $10K Prompt Injection challenge that Pangea ran, and explains the key learnings from the challenge. The episode finishes with discussion of specific prompt-injection techniques and the security guardrails used to counter the risk.

Brought to you by IEEE Computer Society and IEEE Software magazine.

1054 епізодів