2026-09-23 06:33 UTC
Ich bin ja auf dem Weg nach Zürich, um einen Workshop zu geben zu AI-Jailbreaking. Da ich nun zu spät komme, könnten die Teilnehmer:innen vielleicht schon mal eine Vorab-Hausaufgabe lösen. Was könnten sie denn probieren zu jailbreaken? Hat die DB einen Chatbot? 😇
Im Ernst, sind euch interessante Unternehmens-Chatbots aufgefallen, anhand derer man ein bisschen etwas lernen könnte, wie man KI (nicht) einsetzt?
#bahn
#evaTraindestroyer
Replies (1)
-
@evawolfangel@chaos.social 2026-09-23 07:01
Ich suche Chatbots, denen man zum Beispiel den System Prompt entlocken kann oder auch einfach Antworten, die nicht im Sinn des Unternehmens sind (wie dieser Chatbot einer Airline, der einem Kunden eine Rückerstattug versprochen hat, obwohl der seinen Flug selbst verschuldet verpasst hat: ein Gericht ordnete später an, dass die Airline das bezahlen muss, weil der Chatbot es in ihrem Namen versprochen hat). Natürlich nur als Proof of concept 😇 Habt ihr Tipps?