Wie programmiert man einen eigenen Chatbot?

Die Teilnehmerinnen der AI-Horizon-AG erhielten am Mittwoch, den 13.11.2024, einen spannenden Einblick in die Welt der Künstlichen Intelligenz. In einem Workshop an der Hochschule Karlsruhe, geleitet von T. Zylowski und K. Anderer, lernten sie die technischen Hintergründe kennen.

Im vergangenen Schuljahr hatten die IMP-Profilfachschülerinnen bereits die Gelegenheit, den Chatbot zur Berufsberatung des Merlot-Projektteams der Hochschule auszuprobieren. Dieses Mal nahmen sie nicht nur an einem Test der neuesten Version teil, sondern erhielten auch einen exklusiven Blick hinter die Kulissen. Frau Anderer erklärte den AG-Teilnehmerinnen, dass die Daten zur Berufsberatung zunächst in einer Vektordatenbank abgelegt werden. Diese ermöglicht auch unscharfe Anfragen, indem sie die sogenannte Kosinus-Ähnlichkeit nutzt. Dabei wird nicht nur nach Stichwörtern gesucht, sondern die Bedeutung der Aussagen in den Mittelpunkt gestellt.

Herr Zylowski demonstrierte den Schülerinnen live, wie mit erstaunlich wenigen Befehlen in der Programmiersprache Python die geprüften Daten der Datenbank per Retrieval Augmented Generation (RAG) an ein Large Language Model (LLM) gekoppelt werden können, das sogar lokal auf dem eigenen Computer laufen kann.

Neben den technischen Aspekten standen auch soziale und ethische Fragestellungen im Fokus. So wurde zum Beispiel diskutiert, unter welchen Bedingungen der Chatbot als vertrauenswürdig und menschlich wahrgenommen wird und wie der Testfragebogen zum Projekt formuliert sein sollte.

Ein herzlicher Dank geht an Herrn Fischer, Herrn Zylowski, Frau Anderer, Herrn Hettmann und Frau Patricio von der Hochschule Karlsruhe für die wertvollen Einblicke in das aktuelle Forschungsfeld der Künstlichen Intelligenz!

J. Merkert