Praktiken für verantwortungsvolle KI
Vertrauen st?rken durch verantwortungsbewusste Entwicklung von KI-L?sungen
Wir entwickeln KI-Features auf verantwortungsvolle Weise und bieten unseren Kunden die Tools und Funktionen, die sie für die Einführung, Konfiguration und Anwendung von KI zum Erreichen Ihrer Ziele ben?tigen.
Verantwortungsvolle KI bei mini传媒
mini传媒 ist ein Branchenführer bei Governance für verantwortungsvolle KI (Responsible AI Governance, RAI)?– und wir wollen KI nach ethischen Prinzipien entwickeln und einsetzen. Deshalb bewerten und managen wir die Risiken der KI sorgf?ltig. Unser Team arbeitet mit allen Bereichen von mini传媒 zusammen, um zu gew?hrleisten, dass unsere KI Menschenrechte und Sicherheit wahrt und der Gesellschaft durch die Implementierung eines verantwortungsvollen Ansatzes einen echten Nutzen bietet.
Durch die proaktive Partnerschaft mit Coalfire, einem führenden Unternehmen für Cybersicherheit, sind wir in der Lage, unsere anhand des NIST AI Risk Management Framework zu evaluieren. Au?erdem haben wir unser Programm von Schellman nach ISO 42001 zertifizieren lassen. Diese unabh?ngigen Evaluierungen validieren unsere Einhaltung der h?chsten Standards für verantwortungsvolle KI, einschlie?lich Kontrollmechanismen für KI-Sicherheit und Datenschutz.
Zuverl?ssige Risikobewertung
Je nach KI unterscheiden sich die Risiken in Bezug auf die Rechte und Sicherheit der Menschen. Unser erster Schritt ist stets eine sorgf?ltige Risikobewertung. Auf diese Weise k?nnen wir uns auf potenziell problematische Bereiche konzentrieren und gew?hrleisten, dass unsere gesamte KI?– ob für Kunden oder unser eigenes Team?– verantwortungsvoll und nach ethischen Gesichtspunkten unbedenklich ist.
Es sind mehrere Kontrollpunkte vorgesehen und wir prüfen unsere KI-Anwendungsf?lle mindestens zwei Mal: einmal w?hrend der Entwicklung und dann noch einmal vor dem Einsatz. So k?nnen wir potenzielle Probleme frühzeitig erkennen. Anschlie?end erstellen wir detaillierte Pl?ne, um diese Bedenken auszur?umen, sei es in der Entwicklungsphase oder beim Einsatz von KI.
?
So evaluieren wir Risiken
Die Einstufung erfolgt anhand von Faktoren wie die F?higkeit des Produkts, Vorhersagen oder Kategorisierungen zu einzelnen Mitarbeitern zu treffen. Neben weiteren Aspekten bezüglich der Merkmale oder des Kontexts der verwendeten KI spielt auch eine Rolle, welche direkten oder indirekten Auswirkungen das Produkt auf die wirtschaftlichen Chancen hat. Wir berücksichtigen bei dieser Evaluierung auch ?verbotene Risiken“, um Anwendungsf?lle zu identifizieren, die aufgrund eines potenziellen Schadens für Menschen oder der Gef?hrdung grundlegender Menschenrechte aus unserer genehmigten Governance-Struktur herausfallen.
Jeder Risikostufe ist eine bestimmte Reihe von Protokollen oder Standards zugeordnet, um diese Risiken zu minimieren. KI-Features mit h?herem Risiko unterliegen strengeren Anforderungen und erfordern eine gr??ere Anzahl von Protokollen. Auf diese Weise wird sichergestellt, dass der Grad der ?berwachung in einem angemessenen Verh?ltnis zu den potenziellen Risiken bei der Nutzung des Produkts stehen.
Ganz gleich, ob wir die KI entwickeln oder anwenden: unsere Evaluierungen sind optimal darauf abgestimmt. Auf diese Weise k?nnen wir vorausschauend handeln, potenzielle Probleme frühzeitig aufspüren und gew?hrleisten, dass unsere KI sicher und verantwortungsbewusst entwickelt und eingesetzt wird. Darüber hinaus definieren unsere internen Richtlinien verbotene KI-Anwendungsf?lle, Rollen und Verantwortlichkeiten und legen den spezifischen Zeitplan und die Anforderungen für die Durchführung der RAI-Risikoevaluierung fest.
Unser Engagement für verantwortungsvolle KI
Der verantwortungsbewusste Einsatz von KI ist ein kontinuierlicher Prozess. Wir beobachten laufend neue regulatorische Trends, gesellschaftliche Erwartungen und Best Practice-Frameworks. Unser Team entwickelt seine Praktiken und Programme aktiv weiter, damit unser Ansatz zur Entwicklung und Implementierung von KI fair, zuverl?ssig und ethisch vertretbar bleibt und den h?chsten Standards für verantwortungsvolle KI entspricht.?
Wir orientieren uns an KI-Governance-Frameworks wie dem NIST AI Risk Management Framework (AI RMF). Darüber hinaus bewerten wir laufend aktuelle und in Entwicklung befindliche Vorschriften im Hinblick auf unser RAI-Programm und unsere Praktiken, einschlie?lich des KI-Gesetzes der EU, des KI-Gesetzes von Colorado und anderer aktueller Vorschriften und Frameworks auf lokaler, nationaler und internationaler Ebene.?
Bei mini传媒 legen wir gro?en Wert auf Transparenz, d.?h. auf die Bereitstellung klarer Informationen, die die Entscheidungsfindung unterstützen. Im Folgenden beschreiben wir die wichtigsten KI-Protokolle, die wir für eine risikobasierte Governance in unseren KI-Lebenszyklus aufgenommen haben und die wir je nach Risikostufe des Anwendungsfalls (siehe oben) mit unseren zust?ndigen Teams für die Entwicklung und den Einsatz von KI teilen.
KI-Verantwortung
Risikoidentifizierung
Beschreibung für Entwicklung
Ermitteln und bewerten Sie proaktiv und umfassend die Risikostufe des Produkts oder Features.
?
Dies schlie?t ethische, soziale und technische Risiken ein, die mit dem jeweiligen Anwendungsfall und den Eigenschaften des KI-Features verbunden sind. So k?nnen wir potenzielle nachgelagerte Auswirkungen in der Produktionsumgebung minimieren, bevor sie Schaden anrichten.
?
Wir tun dies nicht nur, um die potenziellen negativen Auswirkungen zu verstehen. Wichtig sind für uns auch die m?glichen Vorteile, die sich idealerweise ergeben k?nnen, sowie die sichere Bereitstellung der Features zu diesem Zweck.
Beschreibung für Einsatz?
?hnlich wie bei Entwicklung
Rollen und Verantwortlichkeiten
Beschreibung für Entwicklung
Sie sollten die Rollen und Zust?ndigkeiten der verschiedenen Teams, die an der Entwicklung von KI-Features beteiligt sind, klar definieren. Dies k?nnen Teams der Bereiche Produkt und Technologie, ML Engineering, Legal und Compliance, Datenschutz und andere sein. So werden w?hrend des gesamten KI-Entwicklungslebenszyklus Verantwortlichkeit, Zusammenarbeit und Diversit?t im Hinblick auf den Input gew?hrleistet.
?
Zus?tzlich entsteht ein organisch wachsendes Netzwerk von Experten, die neuen Teams für Fragen und Support zur Governance-Struktur zur Verfügung stehen.
?
Und schlie?lich wird ein strukturierter Beitrag zum RAI-Governance-Framework erm?glicht, wenn neue Grenzf?lle identifiziert werden und wenn sich das Gesch?ft verlagert, ver?ndert und w?chst.
?
Beschreibung für Einsatz
?hnlich wie bei Entwicklung
Nutzennachweis
Beschreibung für Entwicklung
Sammeln und dokumentieren Sie Informationen, die den Nutzen des KI-Features belegen. Daraus sollte hervorgehen, wie das Feature den beabsichtigten Zweck erfüllt und wie Anwender davon profitieren.
?
Oder anders ausgedrückt: Liefert die KI-Funktion einen sinnvollen Mehrwert für die Anwender?
?
Beschreibung für Einsatz
?hnlich wie bei Entwicklung
Transparenz und Erkl?rbarkeit
Erkl?rbarkeit.
Beschreibung für Entwicklung
Stellen Sie erkl?rendes Material dazu bereit, wie das KI-Feature funktioniert und wie seine Ergebnisse abgeleitet werden. Dies k?nnen Kundendokumentationen wie KI-Faktenbl?tter, Beschreibungen von Benutzeroberfl?chen sowie andere Methoden sein, die die Transparenz f?rdern und Einblicke liefern, welche Daten für die Generierung der Ergebnisse verwendet werden.
?
Beschreibung für Einsatz
?hnlich wie bei Entwicklung
Interpretierbarkeit
Beschreibung für Entwicklung
Achten Sie darauf, die Ergebnisse der KI-Features für Kunden und Anwender m?glichst verst?ndlich und klar zu gestalten.
?
Stellen Sie detaillierte Erl?uterungen und unterstützende Materialien in KI-Faktenbl?ttern bereit, um Kunden und Endanwendern die Bedeutung und die Auswirkungen der KI-Ergebnisse im Kontext der jeweiligen Anwendungsf?lle zu verdeutlichen.
?
Beschreibung für Einsatz
?hnlich wie bei Entwicklung
Hinweise
Beschreibung für Entwicklung
Entwickeln Sie das KI-Feature mit klaren und leicht zug?nglichen Hinweisen, die die Endanwender darüber informieren, dass sie mit einer KI-L?sung kommunizieren.?
?
Stellen Sie Orientierungshilfen und eine Standardsprache bereit, mit der Kunden die Art der Daten beschreiben k?nnen, die von dem KI-Feature verarbeitet werden.?
?
Der Hinweis kann entweder in Textform oder als Grafik angezeigt werden und muss deutlich machen, dass das Feature KI verwendet und dies bei den Ergebnisse zu berücksichtigen ist.??
?
Beschreibung für Einsatz
?hnlich wie bei Entwicklung
Menschenzentriertes Design und menschliche Kontrolle
Human-in-the-Loop-Ansatz:
Beschreibung für Entwicklung
Achten Sie bei der Entwicklung des KI-Features darauf, dass Kontrolle durch den Menschen m?glich ist. Wir stellen unseren Kunden eine Dokumentation zur Verfügung, in der wir erkl?ren, dass die Ergebnisse des KI-Features menschliche Entscheidungen unterstützen?– nicht ersetzen?– sollen.?
?
Das Feature sollte auch eine praktische Benutzererfahrung bieten, bei der Menschen die finalen Entscheidung treffen, ob die Ergebnisse des Features akzeptiert oder angepasst werden?– untermauert durch Standards für die Erkl?rbarkeit der Ergebnisse.
?
Beschreibung für Einsatz
?hnlich wie bei Entwicklung
Alternative Verfahren
Beschreibung für Entwicklung
Achten Sie bei der Entwicklung des KI-Features darauf, dass gegebenenfalls alternative Datenverarbeitungsprozesse, wie z.?B. menschliche Prüfung, zus?tzlich zur Standardverarbeitung des KI Features m?glich sind. Stellen Sie klare Anweisungen und Dokumentationen für die Kunden bereit, die die Implementierung dieser alternativen Verfahren erl?utern.
?
Beschreibung für Einsatz
Sorgen Sie dafür, dass betroffene Personen?– sei es über die Benutzeroberfl?che oder andere Kommunikationswege?– die M?glichkeit haben, Alternativen zur KI-gestützten Datenverarbeitung und zu individualisierten Ergebnissen zu fordern, beispielsweise eine menschliche statt einer rein maschinellen Prüfung.
Inklusivit?t
Beschreibung für Entwicklung
Die KI-Funktion wird unter dem Aspekt der Inklusion entwickelt, um sicherzustellen, dass sie für unterschiedliche Endanwender barrierefrei zug?nglich und einsetzbar ist. Berücksichtigen Sie Faktoren wie Sprache, Kultur, Behindertenstatus und andere potenzielle Hindernisse für den Zugang und die Anwendung. Die Qualit?t der Benutzererfahrung sollte unabh?ngig von den F?higkeiten und/oder Vorlieben der Anwender nicht beeintr?chtigt werden.??
?
Beschreibung für Einsatz
Stellen Sie sicher, dass die KI-L?sung innerhalb ihrer Bedienoberfl?che angemessene Optionen bietet. Zugang und Nutzung sollen unterschiedlichen Endanwendern gem?? Chancengleichheit m?glich sein.
Integrierte Exporte
Beschreibung für Entwicklung
Stellen Sie den Kunden Zugriffsoptionen für relevante, aus dem KI-Feature exportierte Daten bereit. Dies erm?glicht es den Kunden, gemeinsam mit ihren eigenen Experten Monitoring und Tests durchzuführen, um Transparenz und Kontrolle zu f?rdern.??
?
Beschreibung für Einsatz
Stellen Sie sicher, dass das Team ausreichende Anweisungen erh?lt, um das Produkt für die Verwendung zu konfigurieren. Geben Sie dazu Optionen für den Zugriff auf und den Export von Ausgabedaten der KI-L?sung an, die für Performance-Tests der KI-L?sung erforderlich sind.
Konfigurierbarkeit.
Beschreibung für Entwicklung
Achten Sie bei der Entwicklung des KI-Features auf Konfigurierbarkeit, sodass die Kunden dessen Funktionalit?t an ihre spezifischen Bedürfnisse und Pr?ferenzen anpassen k?nnen. Stellen Sie eine leicht verst?ndliche Dokumentation und Tools zur Unterstützung der Kunden bei Konfigurationsentscheidungen bereit. Dies entspricht der Leitlinie früherer Protokolle, die den Menschen in den Mittelpunkt aller Entscheidungen stellen, einschlie?lich der Entscheidung, wie sie mit den Features der mini传媒 KI-Plattform interagieren.
?
Beschreibung für Einsatz
Konfigurieren Sie die KI-L?sung entsprechend dem jeweils lokalen Anwendungsfall oder den Anwendungsf?llen.
Tests und Monitoring
Fairness-Tests
Beschreibung für Entwicklung
Führen Sie Fairness-Tests für das KI-Feature durch. Für Entwicklungszwecke kann dies je nach Verfügbarkeit anhand von synthetischen Daten oder aggregierten Beispielergebnissen geschehen. Analysieren Sie die Ergebnisse auf m?gliche Verzerrungen und dokumentieren Sie die Erkenntnisse und L?sungsstrategien. In unseren Factsheets zu KI-Features fügen wir gegebenenfalls eine Erl?uterung und ?bersicht der Fairness-Tests auf Entwicklerseite hinzu.
?
Beschreibung für Einsatz
Für die Implementierung sollten Sie, sofern verfügbar, echte Feature-Ergebnisse verwenden.
Wirksamkeit
Beschreibung für Entwicklung
Testen Sie das KI-Feature sorgf?ltig, um zu gew?hrleisten, dass seine Ergebnisse dem Zweck und der Qualit?t des Anwendungsfalls entsprechen und zuverl?ssig sind. Dokumentieren Sie die Testmethoden und Ergebnisse und weisen Sie die F?higkeit der KI nach, korrekte Ergebnisse zu liefern.??
?
Beschreibung für Einsatz
?hnlich wie bei Entwicklung
Robustheit
Beschreibung für Entwicklung
Testen Sie die F?higkeit des KI-Features, unter verschiedenen Bedingungen gleichbleibende Performance zu liefern, z. B. bei unterschiedlichen Eingabedaten, Benutzereinstellungen und Populationen. Dokumentieren Sie die Testverfahren und -ergebnisse und weisen Sie nach, dass die KI in der Lage ist, ihre Performance in verschiedenen Szenarien aufrechtzuerhalten.
?
Beschreibung für Einsatz
?hnlich wie bei Entwicklung
Geplante Tests
Beschreibung für Entwicklung
Entwickeln und verwalten Sie einen regelm??igen Zeitplan für Performance-Tests und -Monitoring des KI-Features, z.?B. zu Genauigkeit, Robustheit, Nutzen und Fairness. Definieren, implementieren und dokumentieren Sie Testintervall und -verfahren.
?
Beschreibung für Einsatz
?hnlich wie bei Entwicklung
Standards für Verwaltung
Beschreibung für Entwicklung
Legen Sie eindeutige Standards und Verfahren für die laufende Verwaltung und Aktualisierung des KI-Features und der zugrunde liegenden ML-Modelle fest. Definieren Sie die Kriterien dafür, wann Updates notwendig sind und wie sie implementiert und kommuniziert werden.
?
Beschreibung für Einsatz
Dokumentieren Sie Standards, anhand derer Sie bestimmen k?nnen, wann und ob die KI-L?sung oder ihre Konfiguration aktualisiert und/oder neu evaluiert werden sollte.
Datenschutz und Sicherheit
Datenqualit?t
Beschreibung für Entwicklung
Stellen Sie sicher, dass die Daten, die für die Entwicklung des KI-Features verwendet werden, von hoher Qualit?t, für den beabsichtigten Anwendungsfall oder die Anwendungsf?lle geeignet und für die relevanten Populationen repr?sentativ sind. Unterstreichen Sie diese Anforderung durch transparente Dokumentationspraktiken, wie z. B. unsere Factsheets zu KI-Features.
?
Beschreibung für Einsatz
?hnlich wie bei Entwicklung
搁ü肠办惫别谤蹿辞濒驳产补谤办别颈迟
Beschreibung für Entwicklung
Achten Sie bei der Entwicklung des KI-Features darauf, dass es Funktionen für Monitoring und 搁ü肠办惫别谤蹿辞濒驳产补谤办别颈迟 unterstützt.
?
Beschreibung für Einsatz
Sorgen Sie dafür, dass ein Mechanismus vorhanden ist, der die ?berwachung und 搁ü肠办惫别谤蹿辞濒驳产补谤办别颈迟 der L?sung unterstützt.
Standortausschluss
Beschreibung für Entwicklung
Bieten Sie den Kunden die M?glichkeit, die geografische Verfügbarkeit des KI-Features zu steuern. So k?nnen Kunden die Verfügbarkeit des KI-Features in verschiedenen Regionen managen und dabei lokale Gesetze und Vorschriften einhalten.
?
Beschreibung für Einsatz
?hnlich wie bei Entwicklung
Aktualisierung und Rücknahme
Beschreibung für Entwicklung
Entwickeln Sie einen umfassenden Change Management-Plan für Updates des KI-Features und der zugrunde liegenden ML-Modelle. Dieser Plan sollte Kommunikationsprotokolle enthalten, um Kunden über Updates und m?gliche Auswirkungen auf die Verwendung des Features zu informieren.
?
Beschreibung für Einsatz
Entwickeln und dokumentieren Sie einen spezifischen Change Management-Plan für Updates der KI-L?sung oder deren Konfiguration.
Wirksamkeitsmanagement
Beschreibung für Entwicklung
Entwickeln Sie das KI-Feature mit Schutzmechanismen, um potenzielle Schwachstellen und Risiken in Bezug auf seine Wirksamkeit zu minimieren. Dazu geh?rt auch der Schutz vor feindlichen Angriffen, dem absichtlichen Einspeisen manipulierter Daten und anderen Versuchen, die KI-L?sung zu missbrauchen oder zu untergraben.
?
Beschreibung für Einsatz
Sorgen Sie dafür, dass Schwachstellen durch menschliche Fehler von Endanwendern und feindliche Akteure, die die KI-L?sung oder unser geistiges Eigentum manipulieren oder gef?hrden wollen, identifiziert, minimiert und beseitigt werden.