German
NVIDIA und über 35 Gründungsmitglieder haben die Open Secure AI Alliance ins Leben gerufen, um Open-Source-KI-Tools, Modelle, Agenten-Frameworks und Sicherheitstechnologien zu entwickeln. Die Mitgliedschaft zieht ebenso viel Aufmerksamkeit durch Abwesende wie durch Teilnehmer auf sich: Microsoft, IBM, Cisco und Palantir sind an Bord, während führende Entwickler geschlossener Frontier-Modelle wie OpenAI, Google und Anthropic nicht beigetreten sind.
Unterstützt von der Akrites-Initiative der Linux Foundation und OpenSSF zielt die Allianz darauf ab, Sicherheitsteams mit inspizierbaren, anpassungsfähigen Technologien auszustatten, um KI-Modelle, Agenten und deren Software-Lieferketten zu schützen. Die Gründungsmitglieder umfassen Cloud-Infrastruktur, Cybersicherheit, Unternehmenssoftware, KI-Forschung und Open-Source-Communities, darunter Adobe, Box, Capital One, Cisco, Cloudflare, CrowdStrike, Databricks, Dell Technologies, Elastic, Fortinet, GitHub, HPE, Hugging Face, IBM, LangChain, die Linux Foundation, Microsoft, Mistral, NAVER, NetApp, Nokia, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, ServiceNow, Siemens, SK Telecom, Snowflake, SpaceXAI, Synopsys, Uber, vLLM und Zscaler.
Die Allianz betont, dass die KI-Sicherheitsbewertung den gesamten Agenten-Stack abdecken sollte – nicht nur die Modellgewichte. Ein KI-Agent umfasst Modelle, Orchestrierungsschichten, Tool-Integrationen, Identitätsregeln, Berechtigungen, Isolation, Sicherheitsleitplanken, Protokollierung und Bewertungs-Workflows. Obwohl offene Modelle Risiken des Missbrauchs bergen, wie z. B. deaktivierte Schutzmechanismen oder Missbrauch für Cyberangriffe, argumentiert die Allianz, dass geschlossene Modelle solche Gefahren nicht lösen und Verteidiger daran hindern, das Modellverhalten zu auditieren, Kontrollen zu verifizieren oder KI lokal auszuführen.
Sie befürwortet die flexible Nutzung sowohl geschlossener als auch offener KI: geschlossene Modelle eignen sich für ausgewählte hochmoderne Anwendungsfälle, während offene Alternativen Transparenz, lokale Kontrolle und Anpassung für defensive Aufgaben bieten. Dies ist für regulierte Branchen und souveräne Einheiten, die eine direkte Aufsicht über sensible Daten, Modellverhalten, Sicherheitsprotokolle und Vorfallreaktionen benötigen, von großer Bedeutung.
NVIDIA wird der Allianz Open-Source-Modelle, Gewichte, Datensätze und Agenten-Harness-Forschung spenden, wobei ihr NOOA-Framework – gehostet auf GitHub – als früher Beitrag dient. NOOA verbessert die Sicherheit und Auditierbarkeit von KI-Agenten-Harnesses und optimiert Tests, Nachverfolgung, Governance und Bewertung, wenn Agenten mit Tools, externen Daten, Codebasen und Unternehmenssystemen interagieren. Geplante gemeinsame Arbeiten umfassen Agenten-Identitätslösungen, Workload-Isolation, sichere Modellformate, Modell-Scanning und sichere KI-gestützte Softwareentwicklung.
Gründungsmitglieder werden Komponenten eines offenen KI-Abwehr-Stacks entwickeln. HPE unterstützt SPIFFE/SPIRE für Zero-Trust-Workload-Identität zur Authentifizierung von KI-Agenten mittels Kryptographie. Hugging Face's Safetensors, gehostet unter der PyTorch Foundation, eliminiert Risiken der willkürlichen Codeausführung bei der Speicherung von Modellgewichten für sichereres Teilen von Open-Source-Modellen. IBM und Red Hat fördern Lightwell, das signierte Patches nutzt, um die Integrität der Open-Source-Lieferkette zu schützen. Microsoft bietet MDASH, einen Multi-Modell-Agenten-Scanner, der ausnutzbare Softwarefehler erkennt. SpaceXAI hat Grok Build, einen Terminal-KI-Coding-Agenten, Open Source gemacht und plant die Veröffentlichung von Grok-Modellgewichten, was dem Fokus der Allianz auf unabhängige Audits und Modifikationen von sicherheitsorientierten KI-Tools entspricht.
In Bezug auf die Politik fordert die Allianz die Regulierungsbehörden auf, offene KI-Tools als Cybersicherheitsinfrastruktur und nicht als universelle Risiken einzustufen. Pauschale Beschränkungen für fortschrittliche offene Modelle bergen das Risiko, dass Organisationen auf eine kleine Auswahl proprietärer Anbieter angewiesen sind und die Fähigkeiten für defensive Tests von Unternehmen und Regierungen geschwächt werden. Sie fordert kollektive Investitionen in offene Datensätze, Bewertungsplattformen, Angriffssimulatoren, Red-Teaming-Tools, sichere Modellverteilung und Agenten-Sicherheitskontrollen.
Für Enterprise-Infrastrukturteams hebt die Initiative hervor, dass KI-Bereitstellungen als vernetzte Systeme gesichert werden müssen, die Modelle, Anwendungen, Identitätsmanagement, Speicher, Netzwerke, Beobachtbarkeit und automatisierte Entscheidungssysteme integrieren.
Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang/Global Strategy Director
WhatsApp / WeChat: +86 13426366826
E-Mail: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
Geschäftsschwerpunkt:
ICT-Produktvertrieb/Systemintegration & Dienstleistungen/Infrastrukturlösungen
Mit über 20 Jahren Erfahrung im IT-Vertrieb arbeiten wir mit führenden globalen Marken zusammen, um zuverlässige Produkte und professionelle Dienstleistungen zu liefern.
“Technologie nutzen, um eine intelligente Welt zu schaffen”Ihr vertrauenswürdiger ICT-Produkt-Dienstleister!
Sandy Yang/Global Strategy Director
WhatsApp / WeChat: +86 13426366826
E-Mail: yangyd@qianxingdata.com
Website: www.qianxingdata.com/www.storagesserver.com
Geschäftsschwerpunkt:
ICT-Produktvertrieb/Systemintegration & Dienstleistungen/Infrastrukturlösungen
Mit über 20 Jahren Erfahrung im IT-Vertrieb arbeiten wir mit führenden globalen Marken zusammen, um zuverlässige Produkte und professionelle Dienstleistungen zu liefern.
“Technologie nutzen, um eine intelligente Welt zu schaffen”Ihr vertrauenswürdiger ICT-Produkt-Dienstleister!