Entscheidende Erkenntnisse aus unseren GenAI Chatbot-Checks

#1 Eine Person kann nicht mehr alles wissen

Unsere Überprüfungen zeigen: Keine Einzelperson kann die ganze Bandbreite des Wissens über Künstliche Intelligenz abdecken. Moderne KI-Systeme verbinden technisches Know-how mit ethischen, rechtlichen und gestalterischen Aspekten. Deshalb verabschieden wir uns vom traditionellen Expertentum. Stattdessen setzen wir auf Teamarbeit, klare Verantwortlichkeiten und solide Dokumentation, um die Sicherheit und Qualität unserer KI-Lösungen zu garantieren. Das Ergebnis sind verlässlichere und innovativere Produkte.

#2 Laien Red Teaming ergibt spannende Einblicke

Ein wenig bekannter, aber äusserst wertvoller Aspekt bei der Evaluation von KI-Systemen ist das sogenannte “Laien Red Teaming”. Während traditionelle Tests häufig von Expert*innen durchgeführt werden, die ein fundiertes Verständnis für die technischen Details und möglichen Schwachstellen eines Systems besitzen, bietet das Red Teaming durch Personen ohne spezielles Fachwissen einen frischen Blickwinkel. Diese Herangehensweise ermöglicht es, unvorhergesehene Nutzungsmuster, Missverständnisse oder potenzielle Schwachstellen zu identifizieren, die ein technisches Team möglicherweise übersehen könnte. Zudem trägt Red Teaming dazu bei, ethische und gesellschaftliche Implikationen aufzuzeigen, die ein KI-System haben könnte, und so frühzeitig Massnahmen zu deren Entschärfung zu ergreifen.

#3 Klare Zielsetzung und -messung sind der erste Schritt

Für den Erfolg von KI-Projekten ist es entscheidend, von Anfang an klare und messbare Ziele zu setzen. Projekte ohne klare Zielvorgaben riskieren nicht nur unerwünschte Nebeneffekte, sondern auch eine Verschwendung von Ressourcen. Klare Ziele ermöglichen es uns, den Fortschritt effektiv zu überwachen und bei Bedarf Anpassungen vorzunehmen. Sie vereinen alle Projektbeteiligten – von Entwicklern bis zu Entscheidungsträgern – auf einer gemeinsamen Basis. Wir berücksichtigen sowohl kurz- als auch langfristige Ziele, um sicherzustellen, dass unsere KI-Lösungen nicht nur technisch ausgereift, sondern auch wirklich nützlich sind. Durch regelmässige Überprüfungen passen wir unsere Ziele an, um mit den sich ständig ändernden technologischen Möglichkeiten und den Anforderungen unserer Anspruchsgruppen Schritt zu halten.