Hochrisikobereiche nach dem neuen KI-Gesetz:

• kritische Infrastrukturen

• KIs, die den Zugang zu Bildung und beruflichem Verlauf des Lebens einer Person bestimmen können (z. B. Bewertung von Prüfungen)

• Sicherheitskomponenten von Produkten

• Beschäftigung, Management von Arbeitnehmern und Zugang zu Selbstständigkeit (z. B. CV-Sortierungssoftware für Einstellungsverfahren)

• wesentliche private und öffentliche Dienstleistungen (z. B. Kreditwürdigkeit)

• Strafverfolgung

• Migrations-, Asyl- und Grenzkontrollmanagement

• Verwaltung von Justiz und demokratischen Prozessen

Im mittleren Risikobereich liegen die Regulierungsschwerpunkte bei den Vorgaben zur Kenntlichmachung von KI-Inhalten. Anbieter müssen zukünftig Anwendungen auf KI-Basis kennzeichnen (z.B. Chatbots), die gleiche Auflage gilt für generierte Inhalte, die von öffentlichem Interesse sind oder Deep Fakes darstellen (KI-Avatare, Stimmsynthese usw.). Im niedrigen Risikobereich ist die freie Nutzung von KI erlaubt. Als Beispiele nennt die EU hier KI-fähige Videospiele oder Spamfilter.

Zur Förderung, Überwachung und Durchsetzung des neuen KI-Gesetz in den Mitgliedstaaten wurde das European AI Office als Teil der Europäischen Kommission eingerichtet. Als weitere Fördermaßnahme wurde die Initiative “GenAI4EU” gegründet. Diese soll es Unternehmen im Bereich der KI-Entwicklung ermöglichen, schnell wettbewerbsfähige Anwendungen zu entwickeln, die den Werten der EU folgen. Dabei sollen geförderte Unternehmen auch Zugriff auf die Supercomputer-Infrastruktur der EU erhalten. (!)

Das EU-KI-Gesetz soll ab Frühjahr 2026 verpflichtend sein, bis dahin soll es eine Übergangsphase geben, um die freiwillige Anpassung von Unternehmen zu fördern. Ab 2026 können dann bei Verstößen bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes als Strafe verhängt werden.

Keyfacts

• Erstmaliger Rechtsrahmen für KI in Europa, um Risiken anzugehen.
• Ziele: Sicherheit, Transparenz und Rechenschaftspflicht für KI-Systeme; Förderung von Innovation.
• Reduzierung administrativer/finanzieller Belastungen, insbesondere für KMU.
• Umfasst KI-Innovationspaket und koordinierten KI-Plan zur Unterstützung vertrauenswürdiger KI.
• Einführung eines risikobasierten Ansatzes: Verbot von KI-Praktiken mit unannehmbaren Risiken, Festlegung strenger Anforderungen für Hochrisiko-KI-Anwendungen.
• Einrichtung einer europäischen und nationalen Governance-Struktur.
• Spezifische Verpflichtungen für Anbieter von Hochrisiko-KI-Systemen, inklusive Konformitätsbewertung.
• Transparenzverpflichtungen und Kennzeichnung für KI-generierte Inhalte.

1. Amazon enthüllt neuen KI-Bot Rufus:
   Amazon hat Rufus vorgestellt, einen innovativen Einkaufsassistenten, der Produktvergleiche und Vorschläge anbietet, um das Online-Shopping-Erlebnis zu revolutionieren. (Derzeit nur in den USA.)

2. Google’s neue ImageFX, MusicFX, TextFX Tools:
   Google setzt neue Maßstäbe in der Content-Erstellung mit seinen neuesten Tools, die es ermöglichen, Bilder, Musik und Texte mit einfachen Textannweisungen zu erstellen und zu bearbeiten. Zu den FX-Tools

3. 25 Millionen Dollar Schaden durch Deepfake:
   Ein Finanzdienstleister verliert 25 Millionen Dollar, nachdem ein Mitarbeiter des Unternehmens durch Phishing-Mails zu Video-Calls mit angeblichen Kollegen und Finanzvorständen eingeladen wurde. Die Video- und Sprachsynthese war dabei so überzeugend, dass der Mitarbeiter zu mehreren Zahlungen veranlasst werden konnte.

5. OpenAI - Sora kommt!
   OpenAI stellt Sora vor, ein bahnbrechendes Modell zur Text-zu-Video-Generierung, das die Erstellung von Videoinhalten völlig verändern wird​​. Diese Technologie ist besonders für Unterhaltung und Marketing interessant.

7. EMO gibt generierten Videos Emotionen:
   Forscher von Alibaba haben ein KI-System namens „EMO“ entwickelt, das Porträtfotos animieren kann, um realistische Videos von sprechenden oder singenden Personen zu erzeugen. Diese Technologie ermöglicht fließende und ausdrucksstarke Gesichtsbewegungen und Kopfhaltungen, die Audiospuren präzise nachahmen. Dies markiert einen bedeutenden Fortschritt in der Erzeugung von generierten KI-Videos.