heise+ | Die Sicherheitsprobleme des Model Context Protocols

Die KI-Agenten sind da und sollen Ihnen lästige Aufgaben abnehmen: Statt sich selbst durch den Onlineshop für Konzerttickets zu klicken, anschließend nach einer Übernachtungsmöglichkeit zu suchen und selbige zu buchen, sagen Sie einfach Ihrem Rechner, was gewünscht ist. Er, das heißt eigentlich die "agentische KI", die dort oder in der Cloud werkelt, kümmert sich dann um alles und prüft auch, welche Konzerttermine überhaupt in Ihren Kalender passen.

Möglich machen soll das unter anderem das Model Context Protocol (MCP). Ende 2024 von der KI-Firma Anthropic veröffentlicht, erfreut es sich einer rasanten Verbreitung und wird mittlerweile von diversen KI-Systemen unterstützt. In der schönen neuen Welt tritt MCP an die Stelle der Benutzerschnittstellen von Webservices und Applikationen, so wie das Sprachmodell an die Stelle des Benutzers tritt. Per MCP erklären Dienste einem Sprachmodell, welche Daten sie zur Verfügung stellen und welche Aktionen die KI über sie auslösen kann. Außerdem kann die KI per MCP benötigte Daten auch anfragen und passende Aktionen veranlassen.

Ein solches Protokoll ist sicherheitskritisch: Ganz wie klassische Bedienoberflächen sollte es weder unautorisiert Zugriff verschaffen noch bösartig in die Irre führen können. Browser, aber auch klassische App-Stores betreiben erheblichen Aufwand, um schädliche Webseiten und Apps von ihren Nutzern fernzuhalten, manipulative Aktionen zu unterbinden oder zumindest zu warnen, wenn etwas verdächtig oder unsicher ist. Dagegen bietet das noch junge Ökosystem um MCP kaum Sicherheitsmaßnahmen, sodass man MCP-Server mit großer Vorsicht handhaben sollte.

Das war die Leseprobe unseres heise-Plus-Artikels "Die Sicherheitsprobleme des Model Context Protocols". Mit einem heise-Plus-Abo können Sie den ganzen Artikel lesen.