Folge 96: AI Hacks & Security

todo:cast - Developer Podcast

Вміст надано Robin-Manuel Thiel und Malte Lantin, Robin-Manuel Thiel, and Malte Lantin. Весь вміст подкастів, включаючи епізоди, графіку та описи подкастів, завантажується та надається безпосередньо компанією Robin-Manuel Thiel und Malte Lantin, Robin-Manuel Thiel, and Malte Lantin або його партнером по платформі подкастів. Якщо ви вважаєте, що хтось використовує ваш захищений авторським правом твір без вашого дозволу, ви можете виконати процедуру, описану тут https://uk.player.fm/legal.

1y ago 55:03

M4A•Головна епізоду

In dieser Episode werfen wir einen Blick auf die Sicherheitsaspekte von KI-Anwendungen. Wir diskutieren die verschiedenen Angriffsvektoren, denen große Sprachmodelle und AI-Applikationen ausgesetzt sind, darunter Training Data Poisoning, Model Theft, und Evasion Attacks. Außerdem erklären wir Techniken wie Direct und Indirect Prompt Injection, die von Angreifern genutzt werden, um AI-Modelle auszutricksen.

Ihr wollt uns etwas Gutes tun? Spendiert uns gerne einen Kaffee: https://www.buymeacoffee.com/todocast

Links:

Adversarial machine learning: https://en.m.wikipedia.org/wiki/Adversarial_machine_learning
PyRIT: https://github.com/Azure/PyRIT
Robust Physical-World Attacks on Deep Learning Visual Classification (Stop Sign): https://openaccess.thecvf.com/content_cvpr_2018/papers/Eykholt_Robust_Physical-World_Attacks_CVPR_2018_paper.pdf

todo:shop - unser Shop für Nerdkram und alle Fans des Podcast: https://todoshop.io

todo:cast auf TikTok: https://www.tiktok.com/@todo_cast

todo:cast auf Instagram: https://www.instagram.com/todo_cast

Malte auf X: https://twitter.com/MalteLantin

Robin-Manuel auf X: https://twitter.com/robinmanuelt

Feedback und Anregungen: [email protected]

138 епізодів

#Technologie #Todocast Developer #Malte Lantin #Robin-Manuel Thiel