#promptinjection

OpenAI wdraża Lockdown Mode. Czy to oznacza koniec ataków typu prompt injection? Projektując aplikacje oparte o duże modele językowe (LLM) należy zapoznać się z OWASP TOP 10 for LLM. Jest to bezpośredni odpowiednik OWASP TOP 10 dla aplikacji webowych, zawierający listę najczęściej występujących podatności w aplikacjach korzystających z LLM. TLDR: Zgodnie z przewidywaniami, na pierwszym miejscu umieszczono Prompt Injection – zagrożenie, wynikające z... #WBiegu #Ai #Ataki #Lockdown #Openai #PromptInjection https://sekurak.pl/openai-wdraza-lockdown-mode-czy-to-oznacza-koniec-atakow-typu-prompt-injection/

AI bez lukru #29: AI bez kajdanów etyczności Cześć! Z tej strony Tomek Turba. AI bez lukru to cykl moich felietonów o sztucznej inteligencji bez marketingowego lukru, bez korporacyjnych slajdów i bez bajek o „rewolucji, która wszystko zmieni”. Pokazuję AI taką, jaka jest naprawdę: z absurdami, wpadkami, halucynacjami i konsekwencjami, o których rzadko mówi się głośno. Bez zadęcia,... #Aktualności #Teksty #Ai #BezLukru #Felieton #Jailbreak #PromptInjection https://sekurak.pl/ai-bez-lukru-29-ai-bez-kajdanow-etycznosci/