S-Klasse
Mercedes arbeitet mit Microsoft zusammen und startet eine zunächst dreimonatige Testphase.
(Foto: Daimler AG)
Mercedes-Benz will die Sprachsteuerung seiner Fahrzeuge verbessern und erprobt hierfür den Textroboter ChatGPT des Microsoft-Partners OpenAI. Wie der Autohersteller am Donnerstag mitteilte, soll schon an diesem Freitag eine entsprechende Testphase starten.
Teilnehmen können demnach Mercedes-Kunden in den USA, deren Autos mit dem Infotainmentsystem MBUX ausgestattet sind: mehr als 900.000 Fahrzeuge. Die Anmeldung soll per App möglich sein.
Fahrer, die die Sprachsteuerung per Befehl „Hey Mercedes“ aufrufen, sollen dank künstlicher Intelligenz (KI) „noch intuitiver“ mit dem Auto kommunizieren können. Der Sprachassistent solle Interessantes zu Zielorten erzählen können, neue Rezeptideen vorschlagen oder Wissensfragen klären. Das Besondere an ChatGPT ist nicht nur, dass komplizierte Eingaben verstanden werden können, sondern auch, dass längere Dialoge mit weiteren Nachfragen möglich sind.
„Die Integration von ChatGPT ist ein echter Meilenstein auf unserem Weg, das Auto zum Mittelpunkt des digitalen Lebens zu machen“, erklärte Mercedes-Technologievorstand Markus Schäfer. Das Pilotprogramm erweitere bestehende „Funktionen wie die Navigationseingabe, die Wetterabfrage und andere um die Fähigkeiten von ChatGPT“, um „Gespräche mit natürlichen Dialogen und Folgefragen“ möglich zu machen.
Das System könnte mit weiteren Funktionen ausgestattet werden, um etwa einen Tisch im Restaurant zu buchen oder ein Ticket für das Kino zu kaufen, sagte der KI-Chef der Cloud-Spare von Microsoft, Eric Boyd. Schon jetzt laufen für das System im Hintergrund die leistungsstärksten Sprachmodelle von OpenAI: GPT-4 und GPT-3.5.
Die Testphase der KI-Sprachsteuerung ist zunächst auf drei Monate begrenzt. Basierend auf den Ergebnissen dieses Beta-Tests prüfe Mercedes, ob ein großes Sprachmodell für ein „dialogisches Kommunizieren“ zukünftig in seinen Fahrzeugen angeboten werden soll, sagte ein Sprecher auf Handelsblatt-Anfrage. „Wir starten hier mit ChatGPT, da dies im Moment das marktführende Modell ist.“
Kampf gegen Halluzinationen
Ein Thema, das neben ChatGPT auch alle anderen Anbieter von großen Sprachmodellen umtreibt, sind sogenannte Halluzinationen: Irrtümer und Falschaussagen der KI. Im Auto, wo sich Fahrer auf die Straßenlage konzentrieren müssen, wären solche besonders problematisch.
Mercedes erprobt einen besonderen Weg, um Halluzinationen zurückzudrängen: Das eigene System übernimmt eine Gegenprüfung der KI-Angaben. „Um Halluzinationen auszuschließen, setzen wir auf einen Plausibilitätscheck der Ausgaben von ChatGPT“, erklärte der Sprecher. So solle die Mercedes Intelligent Cloud sogenannte „Point of Interest“-Empfehlungen – also Hinweise auf Restaurants, Tankstellen oder andere Zielorte – daraufhin gegenprüfen, ob diese Orte auch wirklich existieren.
Mercedes nutze hierbei eigene validierte Daten und zum Beispiel Suchergebnisse von Google, heißt es in Konzernkreisen. Man habe „zu jeder Zeit die Hoheit über die IT-Prozesse im Hintergrund“, betonte der Autobauer.
Erfundene Aussagen vor Gericht
Fehler und Falschaussagen sind das größte Problem für den massenhaften Einsatz von großen Sprachmodellen wie GPT-4. Trotz der immer besseren sprachlichen Qualität von Modellen von Firmen wie OpenAI, produzieren diese regelmäßig frei erfundene Aussagen oder sie erfinden komplette Quellen.
Trotzdem setzen etliche Unternehmen die Software bereits ein – mit teilweise gravierenden Folgen. Der Anwalt Steven A. Schwartz aus New York wurde in einem Gerichtsverfahren dabei überführt, wie er nicht nur ChatGPT hatte Dokumente erstellen lassen, sondern dabei auch dramatische Fehler übernommen hatte.
>>> Read here: Is the AI Act slowing down AI development in Europe?
Schwartz represented a client in a lawsuit against the airline Avianca. During a flight, his client is said to have been injured in the knee by an airplane trolley. In the documents filed in court, Schwartz cited alleged other cases designed to support compensation for his client.
The judge examined the documents but could not find the cases cited. When asked, Schwarz admitted that ChatGPT had presented the cases to him and that he had not checked them. Judge P. Kevin Castel wrote, “Six of the cases presented appear to be falsified court decisions with falsified citations and falsified internal references.”
Tech companies like Microsoft and Google are working with hundreds of experts to reduce the susceptibility of the systems to errors. However, Microsoft CEO Satya Nadella admitted: “The results are not yet 100 percent reliable.” Both in the presentation of the AI systems at Google and at Microsoft, the carefully selected case studies contained incorrect numbers or incorrect statements.
More: Mercedes Autopilot California allows “Drive Pilot”.