AI Safety

• Forschung zu AI Safety
• Empirische Analyse von Maschinenverhalten und emergenten Fähigkeiten in großen Sprachmodellen
• Untersuchung der Auswirkungen intelligenter Systeme, insbesondere generativer KI, auf verschiedene Bereiche der Gesellschaft
• Erforschung der Schnittstelle zwischen maschinellem Lernens und den Kognitionswissenschaften

Projekte werden gefördert durch:

Coefficient Giving "Investigating Dimensions of Deception Abilities in Language Models"

Schmidt Sciences "Investigating Hawthorne Effects in Large Reasoning Models"

Ministerium für Wissenschaft, Forschung und Kunst des Landes Baden-Württemberg