[ziesell]

Mistral 7B: Neues KI-Modell ist kostenlos und kennt keine Grenzen

Das KI-Startup Mistral hat sein quelloffenes Sprachmodell Mistral 7B veröffentlicht. Es ist frei verwendbar – in jeglicher Hinsicht.



Das im Juni mit 240 Millionen Euro bewertete französische KI-Start-up Mistral hat in der vergangenen Woche eine erste Version seines kostenlosen und quelloffenen generativen Sprachmodells Mistral 7B freigegeben, das offenbar über keinerlei Moderationsmechanismen verfügt. Das Unternehmen erklärt in der zugehörigen Ankündigung, das Produkt sei konkurrierenden Angeboten in vielerlei Hinsicht überlegen.

So könne Mistral 7B Texte viel schneller verarbeiten und generieren als große proprietäre Lösungen und verursache obendrein nur einen Bruchteil von deren Kosten. Und obwohl es sich für den Anbieter nur um einen ersten Schritt auf seiner Roadmap handle, könne das Sprachmodell schon jetzt "zur Lösung vieler Aufgaben eingesetzt werden: Zusammenfassung, Strukturierung und Beantwortung von Fragen, um nur einige zu nennen."

Offenes Sprachmodell kennt keine Grenzen

Veröffentlicht wurde Mistral 7B unter der Apache-2.0-Lizenz, sodass es im Grunde ohne Einschränkungen überall einsetzbar ist. Ohne Einschränkungen sind aber offenbar auch die Inhalte, die sich dem KI-Modell entlocken lassen. So hat etwa der Sicherheitsforscher Paul Röttger insgesamt 175 Fragen und Antworten des Modells zusammengestellt, die verdeutlichen, dass Mistral 7B über keinerlei Moderationsmechanismen verfügt.

Einem Bericht von 404 Media zufolge gibt das Sprachmodell bereitwillig Anweisungen für verschiedenste kriminelle Aktivitäten – darunter Mord, Selbstmord oder die Beschaffung oder Herstellung von Drogen. Hinzu komme, dass Mistral das Modell via Magnet-Link als Torrent veröffentlicht habe, sodass es durch dessen Verbreitung auf zahlreichen Systemen im Grunde nun unmöglich sei, es wieder zurückzuziehen und nachträglich um eine Moderation zu erweitern.

"Mein größtes Problem mit der Mistral-Veröffentlichung ist, dass die Sicherheit nicht bewertet oder in ihren öffentlichen Mitteilungen erwähnt wurde", erklärte Röttger gegenüber 404 Media. "Entweder haben sie keine Sicherheitsprüfungen durchgeführt, oder sie haben beschlossen, sie nicht zu veröffentlichen. Wenn es die Absicht war, ein 'unmoderiertes' LLM zu veröffentlichen, dann wäre es wichtig gewesen, dies von Anfang an ausdrücklich zu erwähnen."

Mistral hat nicht vorhandene Moderation inzwischen bestätigt

Ein Hinweis darauf, dass Mistral 7B über keinen Moderationsmechanismus verfügt, ist inzwischen auch auf der Webseite des Anbieters zu finden. "Wir freuen uns auf die Zusammenarbeit mit der Community, um das Modell so zu gestalten, dass es die Richtlinien einhält und in Umgebungen eingesetzt werden kann, die moderierte Ergebnisse erfordern", erklärt das Start-up dort außerdem. Der Blick auf eine frühere Version der Seite zeigt allerdings, dass der Hinweis erst nachträglich ergänzt wurde.

Ob die Veröffentlichung eines offenen Sprachmodells ohne Moderation nun sinnvoll ist oder nicht, ist schon länger Gegenstand hitziger Debatten. Viele Nutzer kritisieren dies aus Sicherheitsgründen und fordern zur Vorbeugung krimineller Aktivitäten Beschränkungen, wie sie etwa von ChatGPT oder Microsofts Bing bekannt sind. Auf der anderen Seite gibt es aber auch jene Anwender, die es für sinnvoller erachten, Sprachmodelle möglichst frei und ohne jegliche Zensurmaßnahmen zugänglich zu machen und es dem Nutzer selbst zu überlassen, welche Informationen er der jeweiligen KI entlocken möchte.

[ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]
[ Link nur für registrierte Mitglieder sichtbar. Bitte einloggen oder neu registrieren ]