Generative AI & Security (English) Opslaan als favoriet Deel deze pagina Printen Duur 1 dag Prijs € 780,- 8,9 Reviews 1000+ reviews Planning Planning ophalen... Schrijf je direct in Meer informatie Brochure downloaden Generative AI is changing how we build and secure software. In this one-day training, Generative AI & Security, you will learn the inner workings of modern AI systems and why understanding them is essential for security. You will discover where today´s real risks lie and how attackers can misuse large language models to extract sensitive data, leak hidden prompts, or trigger unexpected costs. This course helps you build both awareness and practical skills to work safely and confidently with AI in your daily projects. The course is built around the OWASP Top 10 for LLM Applications, translating each risk into real-world scenarios you will actually encounter. We explore input-side threats such as prompt injection, prompt leakage, and data or model poisoning. You will also examine output-side pitfalls like insecure handling of generated text, sensitive information disclosure, and hallucinations with legal or reputational impact. Finally, we look at architectural issues: supply-chain vulnerabilities, weaknesses in vector stores and RAG pipelines, excessive agent permissions, and uncontrolled resource consumption. The course is highly interactive and hands-on. In guided lab sessions, you will practice with real LLM applications: crafting and detecting prompt injections, simulating poisoning, extracting secrets, and testing for insecure outputs. For each vulnerability, we link the exercise to concrete defenses, such as input validation, output sanitization, guardrails, and robust deployment strategies so you immediately know how to apply safeguards in practice. Doel After this course, you can identify, reproduce, and mitigate the most important security risks in LLM-powered systems and AI-enabled applications. Youll leave with tested patterns and checklists you can apply directly in SecOps, DevSecOps, and development workflows. Doelgroep Security engineers and analysts, SecOps, DevSecOps and software developers. Voorkennis The following prior knowledge is required:– Technical background– Some experience in software development or general AI Bijzonderheden This course is delivered in collaboration with AT Computing.The course will generally be delivered in English, unless all attendees are Dutch-speaking. The course documentation is provided in English. Persoonlijk advies? Fabian Klostermann accountmanager T. 026 - 791 15 57 E. f.klostermann@vijfhart.nl Onderwerpen Module 1: Introduction to Generative AI and its Security Implications How models are trained and how they work Why AI security is critical now Module 2: The OWASP LLM Top 10 – A Comprehensive Overview Top vulnerabilities affecting Large Language Models Threat landscape and real-world impact Module 3: Input-Related Threats Prompt Injection System Prompt Leakage Data & Model Poisoning Lab: Prompt-injection and data-poisoning exercises Module 4: Output-Related Threats Sensitive Information Disclosure Improper Output Handling Misinformation & Hallucinations (and legal implications) Lab: Extracting sensitive data & generating insecure outputs Module 5: Infrastructure & Architecture Threats Supply Chain Vulnerabilities (incl. slopsquatting) Vector & Embedding Weaknesses in RAG Excessive Agency Unbounded Consumption (cost abuse) Lab: Simulate supply-chain attacks & agent stress tests Module 6: Defensive Strategies and Best Practices Robust input validation & output sanitization Guardrails and safety mechanisms in practice Secure AI development lifecycle Data handling, model selection, deployment best practices Planning & Prijs * *Een cursus met start gegarandeerd. *Een cursus met valt onder de actie Summer Academy. Alle prijzen zijn excl. BTW. Meer informatie over incompany of maatwerk Cursus: Generative AI & Security (English) Vul onderstaand formulier in en je ontvangt meer informatie over de incompany- en maatwerkmogelijkheden van deze cursus. [contact-form-7 404 "Niet gevonden"] Wil je meer informatie ontvangen, een vrijblijvende offerte ontvangen of een brochure van deze cursus downloaden? Vul onderstaande gegevens in en je ontvangt de brochure of informatie binnen één werkdag. Offerte aanvragen Brochure downloaden Informatie aanvragen Soort training Deze cursus op eigen locatieEen maatwerk oplossing Akkoord met opvolging en privacyvoorwaardenIk ga akkoord met de privacy voorwaarden Akkoord met opvolging en privacyvoorwaardenIk ga akkoord met de privacy voorwaarden Akkoord met opvolging en privacyvoorwaardenIk ga akkoord met de privacy voorwaarden Gerelateerde cursussen Er zijn geen gerelateerde cursussen. Vervolgcursussen De cursus Generatieve AI voor DevOps: bouw je eigen LLM server Ervaringen ervaringen verzameld via Lucienne Groenendaal Secretarieel medewerkster "Training was prima, goede tips gekregen met af en toe een grap en grol. Locatie was prima, goed verzogd vwb koffie/thee, fruit en koekje. Mensen ook zeer vriendelijk. Lunch was perfect en zeer uitgebreid." 9 Ariana Scheepers "De cursus was goed, en de verzorging ook!Ik heb er veel van opgestoken! De lokatie in Nieuwegein is goed te bereiken met het openbaar vervoer, dus dat is prettig. Tot een volgenden keer." 10 Eric Pos Procesbeheerder bij Gemeente Amersfoort "Ik vond de training erg leerzaam. De inhoud was van een hoog niveau en de docent was goed thuis in de materie. Ik stel het vooral op prijs dat er diep op de concepten werd ingegaan." 9 Tags: AT computingOpen SourceArtificial IntelligenceHybride trainingRijksoverheidSecurity Share: Share Share Share Share
Lucienne Groenendaal Secretarieel medewerkster "Training was prima, goede tips gekregen met af en toe een grap en grol. Locatie was prima, goed verzogd vwb koffie/thee, fruit en koekje. Mensen ook zeer vriendelijk. Lunch was perfect en zeer uitgebreid." 9
Ariana Scheepers "De cursus was goed, en de verzorging ook!Ik heb er veel van opgestoken! De lokatie in Nieuwegein is goed te bereiken met het openbaar vervoer, dus dat is prettig. Tot een volgenden keer." 10
Eric Pos Procesbeheerder bij Gemeente Amersfoort "Ik vond de training erg leerzaam. De inhoud was van een hoog niveau en de docent was goed thuis in de materie. Ik stel het vooral op prijs dat er diep op de concepten werd ingegaan." 9
Vijfhart