Was wollen Startups von der KI-Regulierung?

Startups brauchen Klarheit von den Regulierungsbehörden, wenn sie versuchen, Produkte sicher und verantwortungsvoll zu entwickeln, aber was genau wollen sie?

Der britische KI-Sicherheitsgipfel letzte Woche wird von vielen als diplomatischer Erfolg gewertet, aber für Gründerinnen und Gründer, die KI-Produkte entwickeln, warf die Veranstaltung mehr Fragen auf, als sie beantwortete.

„Ein solcher Gipfel ist keine Veranstaltung, auf der politische Entscheidungen getroffen werden“, sagt Connor Leahy, Mitbegründer des KI-Sicherheits-Start-ups Conjecture. „Es ist die Art von Veranstaltung, bei der man sich kennenlernt, Informationen austauscht, lernt und Verbindungen aufbaut.

Trotz der Ankündigung, dass Großbritannien und die USA eigene KI-Sicherheitsinstitute gründen werden, um die Risiken, die fortschrittliche KI-Systeme darstellen könnten, weiter zu untersuchen, wollen die Gründer/innen nun ernsthafte Anstrengungen unternehmen, um für die Branche regulatorische Klarheit zu schaffen.

Klare Regeln sind besser als keine Regeln

In einem Gespräch im Vorfeld des Gipfels sagte Eric Topham, Mitbegründer des Londoner Startups Octaipipe, das Datensicherheitslösungen für KI-Produkte entwickelt, die auf physischen Geräten eingesetzt werden, dass er klarere Regeln in Großbritannien begrüßen würde.

„Der [bevorstehende] Cyber Resiliency Act in Europa bestraft Datenverstöße auf Geräten, also wird die IT-Branche darauf reagieren müssen“, erklärt er. „Im Vereinigten Königreich ist viel weniger klar, was zu tun ist – es ist viel schwieriger zu wissen, was die Standards sind.

Topham ist zwar der Meinung, dass definierte Regeln für die Datensicherheit es einfacher machen würden, an Kunden zu verkaufen, aber das bedeutet nicht, dass er den Ansatz der EU bei der KI-Gesetzgebung uneingeschränkt befürwortet.

Wie viele Gründerinnen und Gründer ist er der Meinung, dass ein sektorspezifischer Ansatz für die Regulierung besser ist als der eher horizontale Ansatz der EU, der dieselben Regeln auf eine ganze Reihe von Branchen anwendet.

Alex Kendall – Mitbegründer des in London ansässigen Unternehmens für autonomes Fahren Wayve – sagte kürzlich im Sifted-Podcast, dass es keinen Sinn macht, eine Reihe von Regeln für sehr unterschiedliche Branchen zu haben.


„Ich denke, mit einer breit angelegten KI-Regulierung würden wir uns selbst in den Fuß schießen. Die Risiken sind sehr unterschiedlich, wenn du ein Arzt, ein Buchhalter oder ein Autofahrer bist“, sagte er.

Unmittelbar und langfristig

Diese Art von Regulierungsbereichen – in denen KI in der realen Welt eingesetzt wird oder sich auf ihren Einsatz vorbereitet – werden in der Branche als „enge“ Anwendungsfälle bezeichnet, und viele sind der Meinung, dass sie mehr Aufmerksamkeit verdienen.

Der britische Gipfel wurde dafür kritisiert, dass er sich hauptsächlich auf „katastrophale“ Risiken durch superstarke KI-Systeme der Zukunft konzentrierte und nicht auf unmittelbarere Probleme.

Marc Warner, CEO von Faculty, einem Hersteller von KI-Systemen für Unternehmen, meint jedoch, dass es an der Zeit ist, sich mit den langfristigen Risiken zu befassen und gleichzeitig die Diskussion über die kurzfristigen Bedrohungen fortzusetzen.

„Um eine Analogie mit Autos zu verwenden: Ich kümmere mich um Sicherheitsgurte, aber auch um Katalysatoren, denn ich mache mir Gedanken über die kurzfristigen Risiken eines Unfalls, aber auch über die langfristigen Risiken und die globale Erwärmung“, sagt er. „Wenn du mich fragst: ‚Willst du entweder Sicherheitsgurte oder Katalysatoren?‘ Ich sage einfach: ‚Ich will beides‘, und so ist es auch mit der KI.“

Wie kann man Grenzrisiken regulieren?

Die Frage, wie die leistungsstärksten KI-Systeme – die mit riesigen Datenmengen und Rechenleistung trainiert werden – reguliert werden sollen, ist in der KI-Branche umstritten.

Einige, wie Yann LeCun von Meta, sind der Meinung, dass wir uns keine Sorgen machen müssen, dass Modelle wie GPT-4 außer Kontrolle geraten, da sie nicht wirklich intelligent sind, sondern im Grunde nur hochentwickelte Autovervollständigungssysteme.

Leahy von Conjecture plädiert hingegen dafür, eine maximale Rechenleistung für das Training neuer Modelle festzulegen, um Risiken zu vermeiden, die mit der Entwicklung von Systemen einhergehen könnten, die die menschlichen Fähigkeiten übersteigen.

„Wenn man Systeme entwickelt, die in allen Bereichen – Wissenschaft, Wirtschaft, Politik usw. – leistungsfähiger sind als der Mensch und man sie nicht kontrolliert, werden die Maschinen die Zukunft kontrollieren, nicht die Menschen“, sagt er.

Das in Paris ansässige generative KI-Startup Mistral, das mit Unternehmen wie OpenAI konkurriert, um große Sprachmodelle zu erstellen, setzt sich dafür ein, dass große Tech-Unternehmen einer verpflichtenden unabhängigen Aufsicht über ihre Modelle unterliegen, so dass öffentliche Forschungseinrichtungen sie untersuchen können.

Derzeit haben Unternehmen wie OpenAI, GoogleDeepMind, Anthropic und Inflection freiwillige Vereinbarungen getroffen, um ihre Modelle vor der Veröffentlichung von externen Parteien testen zu lassen, aber Mistral-Mitbegründer Arthur Mensch sagt, dass eine Gesetzgebung notwendig ist, um sicherzustellen, dass sich die großen Tech-Unternehmen „nicht selbst regulieren“.

Mustafa Suleyman, Mitbegründer von DeepMind und jetziger CEO von Inflection, sagte, dass freiwillige Vereinbarungen nur ein „erster Schritt“ seien, dass aber bei der Regulierung die Rechte der Unternehmen am geistigen Eigentum berücksichtigt werden müssten.

Nach einer wichtigen Woche für die KI-Sicherheitsdebatte haben Gründerinnen und Gründer immer noch viele Fragen dazu, wie der Gesetzgeber mit den Werkzeugen, die sie bauen, umgehen wird und welche Regeln dafür gelten sollen. Aber für Warner von der Fakultät ist die Tatsache, dass die Diskussion immer noch geführt wird, positiv.

„Stell dir vor, wenn wir vor 40 Jahren auf Ministerpräsidentenebene über die globale Erwärmung gesprochen hätten, wie anders könnte unser Planet jetzt aussehen?“

Wie man eine fraktionierte Führungskraft einstellt

Auf dem Papier klingen Teilzeit-Führungskräfte großartig, aber wie bringst du sie ins Team und wie lange brauchst du sie?

Im Zuge des wirtschaftlichen Abschwungs und als ihr Job in Gefahr war, entschied sich Dagmara Aldridge für eine Teilzeitbeschäftigung in der Gig-Economy – derzeit ist sie COO bei Interrodata.

„Die Einarbeitung einer Teilzeitkraft erfordert eine Mischung aus Struktur und Flexibilität“, sagt sie. Es ist wichtig, dass sie die Ressourcen und die Klarheit haben, um schnell etwas bewirken zu können. In unserem Startup Life Newsletter hat Dagmara uns ihre besten Tipps gegeben.

Bestimme einen Verantwortlichen für das Onboarding

In der Regel ist dies der CEO oder ein Gründer. Es ist wichtig, sie mit der zentralen Vision und Strategie des Unternehmens in Einklang zu bringen. Wenn sie einem anderen C-Suiter im Führungsteam unterstellt sind – nicht dem CEO -, kann diese Führungskraft die Verantwortung für den Prozess übernehmen. Außerdem müssen sie die Rolle der Teilzeitkraft dem gesamten Team mitteilen, um Verwirrung oder sich überschneidende Verantwortlichkeiten zu vermeiden.

Alle Ressourcen müssen leicht zugänglich sein.

Du musst ihnen Zugang zu allen relevanten Unternehmensunterlagen geben, z. B. zu Geschäftsplänen, Strategiedokumenten und Produktfahrplänen. Auch Investorendecks könnten hilfreich sein.
Stelle sicher, dass sie Zugang zu deinen Kommunikationstools (wie Slack oder Teams) und den Wissenssystemen des Unternehmens (wie Confluence oder Notion) haben.
Möglicherweise brauchen sie Zugang zu Tools wie HubSpot, Google Analytics oder anderen Business Intelligence-Plattformen, die ihnen Aufschluss über den aktuellen Zustand des Unternehmens und die Leistung in Bezug auf die KPIs geben können.
Informiere sie über deine Arbeitsweise. Kommuniziert ihr synchron oder asynchron? Welche unternehmensweiten oder teamspezifischen Anrufe oder Meetings sind für sie relevant? Wie führt ihr Meetings durch? Was ist der Zweck bestimmter Besprechungen?

Behandle es nicht wie eine Vollzeitstelle

Der Einarbeitungsprozess kann schneller verlaufen als bei einer Vollzeitstelle in der Chefetage, da du dich auf die unmittelbaren Bedürfnisse konzentrieren musst, anstatt tiefgehende Beziehungen aufzubauen. Es kann auch sein, dass sie nicht jedes kleinste Detail des Unternehmens verstehen müssen, sondern eher die übergreifenden Herausforderungen und Ziele, die ihre Aufmerksamkeit erfordern. Außerdem ist eine Vollzeit-Führungskraft möglicherweise stärker in den Aufbau der Unternehmenskultur eingebunden. Die Passung der Unternehmenskultur ist oft ein zentrales Anliegen von Start-ups in der Anfangsphase. Bei der Einstellung einer Teilzeit-Führungskraft geht es jedoch eher darum, eine vertrauensvolle Beziehung zu der Person aufzubauen, als ihr zu helfen, sich an eine bereits etablierte Kultur anzupassen.

Lege klar fest, welche Aufgaben die Führungskraft erfüllen soll

Wenn es sich um ein Projekt handelt, kann der Vertrag kürzer sein. Wenn dies zu diesem Zeitpunkt noch nicht bekannt ist, kannst du die anfängliche Vertragslaufzeit aushandeln, um eine Diagnose durchzuführen und einen Plan zu erstellen. Erst wenn das bekannt ist, kannst du die angemessene Vertragsdauer oder die Art des Engagements festlegen.

Frühzeitig budgetieren

Fraktionsgeschäftsführer/innen sind kurzfristig kostengünstig, können aber schnell teuer werden. Lege fest, wie lange du dir ihr Fachwissen leisten kannst und wann es wirtschaftlich sinnvoller ist, eine fest angestellte Führungskraft zu beschäftigen – zum Beispiel, wenn das Arbeitsvolumen eine Vollzeitkraft erfordert.

Sorge dafür, dass sie die Möglichkeit haben, mit dem Team zu interagieren
Auch als Teilzeitkraft repräsentiert diese Person dein Unternehmen, also gib ihr das Gefühl, willkommen und einbezogen zu sein. Die größte Herausforderung dabei ist, ihre Verfügbarkeit mit dem bestehenden Arbeitsrhythmus des Unternehmens in Einklang zu bringen.

Regelmäßig Ziele setzen, überwachen und bewerten

Als Führungskraft mit einem Teilpensum konzentriert man sich oft mehr auf die wichtigsten Ergebnisse und Resultate als auf die täglichen Aufgaben. Hier sind einige wichtige Ergebnisse:

In den ersten 30 Tagen sollten Fraktionsgeschäftsführer/innen in der Lage sein zu antworten:

Was sind die Hauptziele des Unternehmens und wie passt meine Rolle zu diesen Zielen?
Welchen unmittelbaren Herausforderungen steht das Unternehmen gegenüber, die für mein Fachwissen relevant sind?
Mit welchen wichtigen Interessengruppen muss ich zusammenarbeiten?
In den ersten 60 Tagen sollten sich die Fraktionsvorsitzenden fragen:

Welche strategischen Initiativen kann ich auf der Grundlage der ermittelten Herausforderungen einleiten, um sie zu bewältigen?
Wie lassen sich diese Initiativen mit den langfristigen Zielen des Unternehmens in Einklang bringen?
Welche Ressourcen (Zeit, Personal, Kapital) werden für diese Initiativen benötigt?
Bin ich immer noch am besten in der Lage, diese Probleme zu lösen, oder sollten wir andere Ressourcen einsetzen?
Welche Kennzahlen und KPIs können festgelegt werden, um die Wirksamkeit der umgesetzten Strategien zu messen?
In 90 Tagen sollten die Fraktionsvorsitzenden in der Lage sein, zu antworten:

Welche Fortschritte wurden bei den eingeführten strategischen Initiativen erzielt?
Wie sehen die Ergebnisse im Vergleich zu den festgelegten Kennzahlen und KPIs aus?
Welches Feedback habe ich von Teammitgliedern und Stakeholdern erhalten?
Welche Verbesserungen oder Änderungen sind auf der Grundlage der Ergebnisse und des Feedbacks erforderlich, um weiter voranzukommen?
Bin ich auf der Grundlage des überarbeiteten Plans immer noch am besten in der Lage, ihn umzusetzen, oder sollten wir andere Ressourcen einsetzen?

Aleph Alpha erhält 500 Millionen Dollar in einer der größten KI-Runden Europas

Das deutsche KI-Unternehmen Aleph Alpha hat heute in einer der größten KI-Runden, die es je in Europa gab, 500 Mio. US-Dollar (460 Mio. Euro) eingesammelt. 110 Mio. Euro der Finanzierung werden in Form von Eigenkapital zur Verfügung gestellt, und Sifted geht davon aus, dass der Großteil der Finanzierung in Form eines Zuschusses erfolgt. Es sind keine Schulden enthalten.

Die Runde, über die das Handelsblatt zuerst berichtete, wird von einer Gruppe von sieben neuen Investoren angeführt, darunter der Innovationspark Künstliche Intelligenz (Ipai) mit Sitz in Heilbronn, Bosch Ventures und SAP, um nur einige zu nennen. Bestehende Investoren wie Cavalry Ventures, LEA Partners und 468 Capital haben sich ebenfalls beteiligt.

Aleph Alpha entwickelt große Sprachmodelle (LLMs), die dem GPT-4 von OpenAI ähneln, aber für Unternehmen und nicht für Verbraucher entwickelt wurden.

Die Finanzierung wird die Forschungskapazitäten von Aleph Alpha stärken und die Entwicklung und Vermarktung von generativer KI für Anwendungen in den Bereichen Gesundheit, Finanzen, Recht, Regierung und Sicherheit beschleunigen. Man hofft, dass die Finanzierung Aleph Alpha helfen wird, mit internationalen Konkurrenten aus den USA und China zu konkurrieren.

Technologische Souveränität

Gründer und CEO Jonas Andrulis wollte ausschließlich deutsche und europäische Investoren gewinnen, berichtet ein VC, der an der Finanzierungsrunde teilgenommen hat – was sich als schwierig erwies. Der VC sagt, dass US-Fonds daran interessiert waren, sich an der Runde zu beteiligen, aber nur das US-amerikanische Unternehmen Hewlett Packard Enterprise beteiligte sich mit einem kleinen Betrag.

Trotz Aleph Alphas Wunsch, einen Beitrag zur europäischen Technologiesouveränität zu leisten, bleibt abzuwarten, ob das Unternehmen ohne US-Investitionen oder -Ressourcen zu einem bedeutenden KI-Anbieter werden kann.

Claude Ritter, Partner bei Cavalry Ventures, ist hoffnungsvoll. „In der Vergangenheit gab es hier [in Europa] nicht das nötige Kapital. Aber mit dem Aufstieg von DeepMind, Mistral und anderen KI-Unternehmen haben wir eine Menge Daten, die zeigen, dass hier etwas passiert“, sagt er.

„Das Interesse der Regierungen ist groß, und Frankreich setzt sich für das Thema ein. Ich habe das Gefühl, dass es für Aleph Alpha ein gutes Momentum gibt, um an den Start zu gehen. Wird es für immer ein deutsches Unternehmen bleiben? Das kann ich dir nicht sagen.“

„Ja, ich möchte dazu beitragen, dass es eine technologische Souveränität gibt, und ich möchte das kleinste Unternehmen sein, das das tun kann“

Andrulis selbst sagte Sifted auf einer Konferenz in Heilbronn, wo Ipai seinen Sitz hat, dass es nie seine Absicht war, ein großes Unternehmen zu werden. „Ich möchte nicht unbedingt ein Unternehmen mit 10.000 Mitarbeitern haben. Ja, ich möchte dazu beitragen, dass es eine technologische Souveränität gibt, und ich möchte das kleinste Unternehmen sein, das das schafft.“

„Das Ziel war nie die Größe, sondern die Fähigkeit“, fügt Andrulis hinzu. „Die kleinste Anzahl von Leuten, die mich dorthin bringen kann, ist also in Ordnung.

Interview mit Arjun Patel, Investment Manager bei NRW.venture

Interviewer: Guten Tag, Arjun! Schön, dass du heute hier bist. Erzähl uns doch ein bisschen über deine Rolle bei NRW.venture

Arjun Patel: Hallo! Ich freue mich, dabei zu sein. Als Investment Manager bei NRW.venture ist es meine Aufgabe, vielversprechende Startups zu identifizieren, in die wir investieren könnten. Mein Alltag besteht darin, Geschäftspläne zu analysieren, Marktforschung zu betreiben und Treffen mit den Gründern zu organisieren.

Interviewer: Wie sieht ein typischer Arbeitstag für dich aus?

Arjun Patel: Jeder Tag ist anders, was meine Arbeit sehr spannend macht. Normalerweise beginne ich mit der Sichtung von Geschäftsplänen und Pitch-Decks, die über Nacht eingegangen sind. Danach folgen oft Meetings mit unserem Analyseteam, um die Potenziale von Startups zu diskutieren. Nachmittags führe ich in der Regel Gespräche mit Startup-Gründern, um ihre Visionen und Teams besser kennenzulernen.

Interviewer: Was findest du an deiner Arbeit am spannendsten?

Arjun Patel: Das Spannendste ist, zu sehen, wie aus einer Idee ein florierendes Unternehmen wird. Es ist inspirierend, mit so vielen talentierten Menschen zu arbeiten, die echte Veränderungen anstreben. Außerdem ist es eine Freude, meine indischen Wurzeln und meine Erfahrungen in Paderborn einzubringen, um eine Brücke zwischen verschiedenen Kulturen und Geschäftspraktiken zu schlagen.

Interviewer: Wie beeinflusst dein kultureller Hintergrund deine Arbeit in der Startup-Finanzierung?

Arjun Patel: Mein indischer Hintergrund verleiht mir eine einzigartige Perspektive, insbesondere im Hinblick auf globale Trends und kulturelle Sensibilität im Geschäftsumfeld. Ich glaube, dass diese Vielfalt im Denken dazu beiträgt, innovative Lösungen zu erkennen und zu unterstützen, die über kulturelle Grenzen hinweg erfolgreich sein können.

Interviewer: Welche Herausforderungen siehst du aktuell im Startup-Ökosystem, speziell in Paderborn?

Arjun Patel: Paderborn ist zwar nicht so groß wie Berlin oder München, aber die Stadt entwickelt sich rasch zu einem Tech-Hub. Eine Herausforderung besteht darin, lokale Startups mit internationalen Märkten zu vernetzen und gleichzeitig ein unterstützendes lokales Netzwerk aufzubauen, das junge Unternehmen fördert.

Interviewer: Wie unterstützt Paderborn Capital Startups abseits der Finanzierung?

Arjun Patel: Neben der Finanzierung bieten wir ein Mentoring-Programm an, das Startups Zugang zu einem Netzwerk aus erfahrenen Unternehmern und Fachleuten gibt. Wir helfen auch bei der Strategieentwicklung, bei Marketinginitiativen und stellen Kontakte zu weiteren Investoren und Industriepartnern her.

Interviewer: Was rätst du Gründern, die auf der Suche nach Kapital sind?

Arjun Patel: Mein Rat wäre, sich auf die Story und das Team zu konzentrieren. Investoren finanzieren nicht nur eine Idee, sondern ein Team, das diese Idee zum Leben erwecken kann. Eine klare Vision und die Fähigkeit, diese zu kommunizieren, sind ebenso entscheidend wie ein überzeugender Geschäftsplan.

Interviewer: Vielen Dank für deine Zeit, Arjun. Wir wünschen dir weiterhin viel Erfolg bei Paderborn Capital!

Arjun Patel: Vielen Dank, das Gespräch mit dir war mir ein Vergnügen.