Open Source und KI: Chancen, Herausforderungen und Best Practices
Was brauchts es für die Implementierung von KI im Unternehmen.
In der neuesten Folge von "No Hype KI" bei brutkasten diskutierten Florian Böttcher (Solution Architect, CANCOM Austria), Stephan Kraft (Community Advocate & Business Development OpenShift & Application Services, Red Hat), Natalie Ségur-Cabanac (Policy Lead, Women in AI) und Patrick Ratheiser (Gründer & CEO, Leftshift.One) darüber, was es für die Implementierung von KI im Unternehmen braucht.
Open Source als Treiber für KI-Entwicklung
Open-Source-Technologien bieten Unternehmen weitreichende Möglichkeiten in der KI-Entwicklung. In der Diskussion betont Stephan Kraft, dass Open Source nicht nur eine Frage der Ethik sei, sondern für Startups und KMU essenziell. Transparenz und Zusammenarbeit erleichtern Innovation und senken Einstiegshürden.
Patrick Ratheiser hebt hervor, dass Open Source einen exponentiellen Anstieg von KI-Modellen ermöglicht. Von 5.000 Modellen im Jahr 2021 sind es heute über eine Million Open Source Modelle, die frei Verfügbar sind. Also ein Wachstum von über 10.000%. Doch nicht immer ist Open Source immer die beste Wahl erklärt Patrick Ratheiser. Unternehmen müssen je nach Anwendungsfall zwischen Open Source, Cloud oder Closed Source abwägen.
Auch in der Infrastruktur spielt Open Source eine wichtige Rolle, so Florian Böttcher. Es bittet die Anforderung für die Infrastruktur. Ohne Open Source würde es das ganze KI Thema nicht geben. Auch Natalie Ségur-Cabanac sieht in Open Source eine "Key Technology", um Diskriminierung zu reduzieren und Vielfalt in der KI-Forschung zu fördern.
Datenstruktur und Compliance: Herausforderungen von Open Source
Eine saubere Datenbasis ist essenziell erklärt Natalie Ségur-Cabanac. Bei Open Source ist besonders wichtig, dass wenn Modelle gekauft bzw. genutzt werden, dass diese Modelle mit sauberen Daten trainiert wurden. Sie warnt, dass Open Source System hier oft Unklarheiten schafft und es für Compliance die Herausforderung dar stellt "Wer ist wofür zuständig?". Unternehmen bieten daher Enterprise-Support für Qualitätssicherung und auch im rechtlichen Sinne zuständig sind. Auch Patrick Ratheiser setzt auf Compliance als Schlüsselfaktor, denn dem Kunden muss man garantieren, dass das ganze complient ist und dies Systeme müssen gewartet werden.
Die Wahl zwischen eigener KI-Infrastruktur oder Cloud-Lösungen hängt vom Anwendungsfall ab. Florian Böttcher beton auch, dass das Training von eigenen LLMs ein großer Unterschied ist, was die Infrastruktur betrifft. Die große Herausforderung hier ist, dass in Österreich die KIs sehr viel Strom verbrauchen und Hitze produzieren. Daher finden Trainings von KI meistens in den Nordics oder in den USA. "Gerade wenn man mit Open Source arbeiten möchte oder forschen möchte, braucht man trotzdem die Infrastruktur damit man auch weißt, was man beim Kunden einsetzen kann", so Böttcher.
ist erwartet künftig effizientere Modelle mit geringerem Energiebedarf. Gerade in Europa, wo Datenschutz (DSGVO) eine große Rolle spielt, sind hybride Ansätze beliebt.
Fazit Open Source bietet große Chancen in der KI-Entwicklung, birgt aber auch Herausforderungen in Bezug auf Compliance, Infrastruktur und Datenqualität. Unternehmen sollten eine klare KI-Strategie verfolgen, hybride Lösungen in Betracht ziehen und auf Kompetenzaufbau setzen. Mehr dazu in der brutkasten-Folge von "No Hype KI".