Nachschlagen · Belege

Quellen & Begriffe

Alles, worauf sich der Workshop stützt – mit Links zum Nachlesen. Wo eine Zahl umstritten oder vorläufig ist, steht es dabei.

Geprüft am 8. Oktober 2026

Direkt zu den Begriffen ↓

Wie KI genutzt wird

Universität Graz / Ö-Cert (2026): Künstliche Intelligenz in der ErwachsenenbildungÜber 300 Befragte. 95 % haben KI genutzt, die Hälfte fast täglich. Über ein Viertel: keine einheitlichen Kriterien im Haus.
Institut der deutschen Wirtschaft (Frühjahr 2026)29 % der KI-Nutzenden verwenden Tools, die der Arbeitgeber nicht bereitstellt („Schatten-KI“).
BCG (2025): AI at WorkMit starkem Rückhalt der Führung steigt die positive Haltung deutlich. Wer mindestens fünf Stunden Training hatte, nutzt KI häufiger.

Was KI kann – und wie schnell es geht

OpenAI (6.10.2026): Mathematik-Manuskripte zu offenen ForschungsfragenStand 8.10.: 719 Manuskripte in 372 Familien, rund 4.000 offene Probleme, im Schnitt drei Stunden Rechenzeit pro Ergebnis. Noch nicht begutachtet; bei rund 42 % ist das Hauptergebnis maschinell (Lean) nachgeprüft. OpenAI weist selbst darauf hin, dass ungeprüfte Ergebnisse Fehler enthalten können.
METR: Time Horizon · Frontier Risk Report (Mai 2026)Wie lange Aufgaben sind, die KI-Agenten selbstständig schaffen. Die besten Systeme liegen bei Aufgaben, für die Menschen rund 16 Stunden brauchen; der Test stößt an seine Grenze.

Denken, Lernen, Verlernen

Bastani et al. (2025), PNASKI, die Lösungen liefert, verbessert das Üben – verschlechtert aber die Leistung ohne KI. Hinweise statt Lösungen mildern den Effekt.
Kestin, Miller et al. (2025), Scientific ReportsEin KI-Tutor, der nach lerndidaktischen Grundsätzen gebaut ist, führte in einem Physikkurs zu mehr als doppelt so großem Lernzuwachs wie aktiver Präsenzunterricht. Zwei Wochen, ein Fach – nicht beliebig übertragbar.
Kosmyna et al. (2025), MIT Media LabVorläufig, 54 Personen: Wer zuerst selbst schrieb und dann KI nutzte, war geistig aktiver als umgekehrt.
Lee et al. (2025), Microsoft Research / Carnegie Mellon, CHI319 Wissensarbeiter:innen: Je mehr Vertrauen in die KI, desto weniger kritisches Prüfen.
Dahmani & Bohbot (2020), Scientific ReportsMehr Navigationsgerät, schlechteres räumliches Gedächtnis.
Budzyń et al. (2025), Lancet Gastroenterology & HepatologyNach Monaten mit KI-Unterstützung fanden Ärzt:innen bei Darmspiegelungen ohne KI weniger Krebsvorstufen: 28,4 % → 22,4 %.

Zur Leitfrage: abgeben, anregen lassen, behalten

Shen & Tamkin (Anthropic, Jänner 2026): How AI Impacts Skill FormationPreprint. Ganz delegieren schwächt das Verständnis; Nutzungsweisen mit eigenem Mitdenken erhalten den Lernerfolg.
Liu et al. (April 2026): AI Assistance Reduces Persistence and Hurts Independent PerformancePreprint, 1.222 Personen. Schon nach kurzer KI-Hilfe weniger Ausdauer und schlechtere Leistung ohne KI.
Shaw & Nave (Wharton, Jänner 2026): Thinking – Fast, Slow, and ArtificialArbeitspapier, 1.372 Personen. Falsche KI-Antworten wurden in 80 % der Fälle übernommen („cognitive surrender“).
Dell’Acqua (Harvard Business School): Falling Asleep at the WheelArbeitspapier. Recruiter mit besserer KI arbeiteten nachlässiger und entschieden schlechter.
Chiang et al. (2024): LLM-Powered Devil’s Advocate, IUIKI, die gezielt widerspricht, verbessert Gruppenentscheidungen.
Doshi & Hauser (2024), Science AdvancesKI steigert die Kreativität einzelner, verringert aber die Vielfalt aller Ergebnisse.
OECD (2026): Digital Education OutlookErledigen ist nicht Lernen; entscheidend ist die didaktische Gestaltung.
Bainbridge (1983): Ironies of Automation · Simkute et al. (2024): Ironies of Generative AI
Risko & Gilbert (2016): Cognitive Offloading · Gerlich (2025), Societies (nur Zusammenhang)

Das Modell ausführlich: Die Leitfrage

Begriffe: Kontext, Harness, Skills

A. Karpathy (Juni 2025): „Context Engineering“ – zitiert bei S. WillisonNicht der geschickte Satz entscheidet, sondern die Auswahl der Informationen, die das Modell sieht.
B. Böckeler, martinfowler.com (2026): Harness Engineering · OpenAI zu Codex (Februar 2026)Die Software rund um das Modell – Werkzeuge, Abläufe, Zugänge, Prüfschritte – bestimmt, wie gut ein Agent arbeitet.
Agent Skills – offener Standard für SKILL.md-Dateien (seit Dezember 2025)Arbeitsanleitungen als Textdatei, die verschiedene KI-Werkzeuge lesen können.
Microsoft Learn: Skills in SharePoint

Sicherheit

Heiding, Schneier et al.: KI-gestütztes Spear-PhishingVollautomatisch von KI geschriebene Phishing-Mails: 54 % Klickrate, allgemeine Vergleichsmails 12 %.
CSO Online (Juni 2026): Prompt injection breaks today’s AI agents3.168 Testläufe mit Browser-Agenten: Versteckte Anweisungen in Webseiten wirkten in 41,7–68,2 % der Fälle, direkte Angriffe in über 79 %.
S. Willison (2025): The lethal trifectaGefährlich wird es, wenn ein Agent fremde Inhalte liest, an private Daten kommt und nach außen kommunizieren kann.
The Next Web (September 2026): OpenAI-Agent und das Medicare-StatistikportalVom australischen Premierminister öffentlich gemacht. Umfang umstritten, Untersuchung läuft.
TÜV-Verband und BSI (7.10.2026): KI-SicherheitsstudieVon den Unternehmen, die KI nutzen oder planen, haben 11 % eigene Abläufe für KI-Sicherheitsvorfälle. 17 % aller Befragten berichten von KI-gestützten Angriffen oder Betrugsversuchen.
The Register (2024): Deepfake-Videocall, Fall Arup25 Millionen US-Dollar nach einer Videokonferenz mit gefälschten Kolleg:innen.
FIDO Alliance (Mai 2026): Fünf Milliarden PasskeysSchätzung der Branchenvereinigung.
Microsoft Message Center MC1426371: Passkeys als Standard in EntraAb 1.9.2026 Passkeys als Standard; von Microsoft bereitgestellte SMS- und Sprachcodes enden am 1.2.2027.

Recht

Verordnung (EU) 2024/1689 – AI ActArt. 4 (KI-Kompetenz), Art. 14 und 26 (menschliche Aufsicht), Art. 50 (Transparenz, seit 2.8.2026), Anhang III (Hochrisiko, u. a. Bildung und Personal).
Verordnung (EU) 2026/1744 – Digital Omnibus, in Kraft seit 27.7.2026 · Zusammenfassungen: ITMR, Law & TechnologyArt. 4 wird zur Pflicht, Maßnahmen zu setzen und zu dokumentieren. Hochrisiko-Pflichten nach Anhang III gelten ab 2.12.2027.
Art. 50 in der Praxis
Datenschutz-GrundverordnungArt. 4 Nr. 1 (personenbezogene Daten), Art. 9 (besondere Kategorien), Art. 28 (Auftragsverarbeitung), Art. 35 (Folgenabschätzung).
EDSA-Leitlinien 01/2025 zur PseudonymisierungPseudonymisierte Daten bleiben personenbezogen, solange eine Zuordnung möglich ist.

Werkzeuge (Tool-Landkarte)

Begriffe

Prompt: Der Auftrag in einem Satz – das, was man der KI in diesem Moment schreibt.
Kontext: Alles, was die KI bei einer Aufgabe gerade sieht: Auftrag, Unterlagen, bisheriger Verlauf. Im Workshop: der Schreibtisch. Gute Ergebnisse kommen vor allem von gutem Kontext.
Harness: Die Software rund um das Modell: Werkzeuge, Abläufe, Zugänge, Prüfschritte. ChatGPT, Claude, Copilot oder Codex sind solche Harnesses. Im Workshop: das Büro. Das Büro stellen die Anbieter – Akten und Regeln stellen Sie.
Modell: Das eigentliche Sprachmodell (etwa GPT, Claude, Gemini, Mistral), das Texte erzeugt.
Agent: Modell plus Harness, das selbstständig mehrere Schritte erledigt: suchen, lesen, schreiben, Werkzeuge bedienen.
Skill: Eine Arbeitsanleitung für eine wiederkehrende Aufgabe, meist als Textdatei SKILL.md. Offener Standard, den mehrere Werkzeuge lesen.
KI-Ordner: Ein Ordner mit Anweisungen, Wissen, Vorlagen und Skills, den Ihre Organisation selbst pflegt. Funktioniert mit jedem gängigen Werkzeug und macht unabhängig vom Anbieter.
Connector: Ein Zugang, über den die KI auf andere Systeme zugreift – Postfach, Kalender, Laufwerk. Praktisch, aber: Die KI sieht dann alles, was die Berechtigung erlaubt.
Halluzination: Eine plausibel klingende, aber falsche Angabe der KI. Gegenmittel: Quellen verlangen, „[FEHLT: …]“ statt Erfinden, menschlich prüfen.
Prompt Injection: Versteckte Anweisungen in Webseiten, Mails oder Dokumenten, die eine KI umlenken sollen – etwa weiße Schrift auf weißem Grund.
Gefährliche Dreierkombination: Ein Agent, der fremde Inhalte liest, an sensible Daten kommt und nach außen handeln kann. Nie alle drei ohne menschliche Freigabe (nach S. Willison: „lethal trifecta“).
Schatten-KI: KI-Nutzung ohne Wissen oder Regeln der Organisation, oft mit privaten Gratis-Konten. Gibt es auch dort, wo Regeln existieren – wenn der erlaubte Weg unpraktisch ist.
Datenampel: Grün in jedes Tool, Gelb nur in freigegebene, Rot nie in frei zugängliche. Ausführlich.
Auftragsverarbeitungsvertrag (AVV): Vertrag mit einem Dienst, der personenbezogene Daten in Ihrem Auftrag verarbeitet (Art. 28 DSGVO).
EU Data Boundary: Zusage von Microsoft, Daten von EU-Kunden in der EU zu speichern und zu verarbeiten – mit dokumentierten Ausnahmen.
KI-Kompetenz (Art. 4 AI Act): Organisationen, die KI einsetzen, setzen Maßnahmen, damit ihre Leute ausreichend kompetent sind – und dokumentieren sie. Ein internes Register genügt. Vorlage.
Kennzeichnung (Art. 50 AI Act): Seit August 2026: Chatbots geben sich als KI zu erkennen, realistische KI-Bilder und Deepfakes werden gekennzeichnet.
Hochrisiko (Anhang III): KI für Zulassung, Bewertung von Lernenden oder Personalauswahl. Strenge Pflichten ab 2.12.2027.
Passkey: Anmeldung mit einem Schlüssel auf Handy, Laptop oder USB-Stick statt Passwort. Funktioniert nur auf der echten Adresse – Phishing-Seiten gehen ins Leere.

Fehler gefunden oder eine neuere Quelle? Schreiben Sie an info@arminfradler.at.