KI-Agenten stellen Unternehmen vor neue Sicherheitsfragen
Autonome KI-Agenten, Cyberangriffe und der Schutz sensibler Daten: An der zweiten Ausgabe von east#KI in St.Gallen diskutierten Experten über die wachsenden Sicherheitsrisiken beim Einsatz künstlicher Intelligenz. Über 200 Gäste verfolgten die Diskussion und erhielten Einblicke in aktuelle KI-Projekte aus der Ostschweiz.
Die von <IT>rockt! organisierte Veranstaltung fand am 11. November im St.Galler Pfalzkeller statt. Vertreter aus Wirtschaft, Forschung, Bildung, Politik und Verwaltung tauschten sich darüber aus, wie Unternehmen künstliche Intelligenz sicher und sinnvoll einsetzen können. Im Zentrum stand die Podiumsdiskussion «Wie sicher ist KI?».
Benedikt van Spyk, Staatssekretär des Kantons St.Gallen, verwies auf einen grundlegenden Zielkonflikt: Die Bevölkerung erwarte einen hohen Schutz ihrer Daten, gleichzeitig solle die Digitalisierung möglichst rasch voranschreiten. «Es gibt aber keine Abkürzung bei der Sicherheit», betonte er. Gerade bei autonomen KI-Agenten müsse bewusst entschieden werden, welche Verantwortung an die Technologie abgegeben werde. Eine rein formelle menschliche Kontrolle reiche dabei nicht aus.
KI verändert die Bedrohungslage
Mike Tolido, Head of Channel Management Data Security Switzerland bei Thales, warnte davor, dass KI Phishing und andere Cyberangriffe einfacher und schneller mache. Gleichzeitig werde es schwieriger, solche Angriffe rechtzeitig zu stoppen. Unternehmen müssten deshalb ihre digitale Souveränität bewahren und insbesondere kontrollieren, auf welche Daten KI-Systeme zugreifen können.
Syrian Hadad, CTO und Mitglied der Geschäftsleitung von adesso Schweiz, verwies auf die zunehmende Komplexität der Angriffsszenarien durch die Automatisierung mit KI-Agenten. Er betonte zudem die Bedeutung der Ausbildung: Ohne genügend qualifizierten Nachwuchs drohten der Branche in einigen Jahren Probleme.
Auch der Umgang mit KI-generierten Informationen war Thema. Ralf Angermann, Head of AI Solutions bei Online Consulting, warnte davor, Ergebnisse ungeprüft zu übernehmen. Unternehmen müssten kritisch hinterfragen, ob die von KI-Systemen gelieferten Informationen tatsächlich verlässlich seien.
Eva De Salvatore, Geschäftsführerin von <IT>rockt!, machte deutlich, dass ChatGPT allein noch keine Unternehmensstrategie liefere. Entscheidend sei, die Mitarbeiter beim Einsatz künstlicher Intelligenz mitzunehmen und sie zu befähigen, deren Möglichkeiten und Grenzen richtig einzuschätzen.
Von KI-Plattformen bis zur Zigarren-App
Wie vielfältig die Beschäftigung mit künstlicher Intelligenz in der Ostschweiz bereits ist, zeigten die anschliessenden 5-Minuten-Pitches. Vorgestellt wurden unter anderem KI-Plattformen, Lösungen für den sicheren KI-Einsatz, Erfahrungen aus KI-Projekten in Ostschweizer KMU, Anwendungen für die digitale Markenkommunikation sowie ein digitaler Innovationsassistent für KMU. Auch der Weg vom ersten Prototyp zur zuverlässigen Anwendung war Thema. Zu den präsentierten digitalen Projekten gehörte zudem eine Zigarren-Plattform.
Nach den Pitches wandte sich Roger Moser, Professor für Internationales Management an der HSG, mit einer Videobotschaft an die Besucher. Er stellte den konkreten Nutzen der Technologie in den Vordergrund: «Welche Herausforderungen können wir mit KI besser meistern? Das ist die zentrale Frage, die sich Unternehmen stellen sollten.»
An der anschliessenden Tischmesse konnten sich die Besucher über die vorgestellten Projekte informieren und mit den beteiligten Unternehmen austauschen. Die KI-Kompetenz Map Ostschweiz soll die Vernetzung über den Anlass hinaus fördern und Unternehmen sowie Organisationen mit entsprechenden Kompetenzen sichtbar machen.
Text: pd/red