Anfang dieses Monats schickte die behördenübergreifende Arbeitsgruppe des Chefwissenschaftlers der US-Luftwaffe eine Informationsanfrage (RFI) zu unbeabsichtigter Verzerrung durch künstliche Intelligenz (KI).. Die Gruppe befasst sich mit der kritischen Frage der Verzerrung innerhalb von KI- und maschinellen Lernalgorithmen (ML), wobei der Schwerpunkt auf Datensätzen liegt. Sie möchten von akademischen Institutionen wie Minority Serving Institutions (MSIs) und historisch schwarzen Colleges und Universitäten (HBCUs) sowie von der Industrie, der Bundesregierung und anderen akademischen Institutionen etwas über diese Vorurteile erfahren.

Trotz der Entwicklung mehrerer Tools zur Identifizierung und Bekämpfung von Vorurteilen, wie beispielsweise des Responsible AI-Toolkits des Verteidigungsministeriums (DoD), bestehen weiterhin erhebliche Herausforderungen bei der Bekämpfung von Vorurteilen innerhalb von KI- und ML-Systemen.

Die Gruppe ist sich bewusst, dass mit der Expansion der KI-Technologie in neue Bereiche einzigartige Herausforderungen entstehen, von denen jede ihre eigenen anwendungsspezifischen Vorurteile hat, die unbeabsichtigt zu schädlichen Ergebnissen führen können. Daher besteht ein dringender Bedarf an kontinuierlicher Forschung und Zusammenarbeit zwischen den Disziplinen, um wirksame Strategien zur Erkennung und Abschwächung von Vorurteilen in jeder Phase der KI- und ML-Entwicklung zu entwickeln.

Einzelpersonen und Gruppen, die daran interessiert sind, Informationen darüber auszutauschen, wie KI-Bias in Datensätzen besser verstanden werden können, sollten bis zum 15. Mai eine Antwort über ihr Portal einreichen.

Die Antworten sollten Folgendes umfassen:

• eine Leistungserklärung
• eine Beschreibung der laufenden und zukünftigen Forschung, die die Institution durchgeführt hat, um unbeabsichtigte KI-Verzerrungen zu bekämpfen
• eine Beschreibung aller bestehenden Partnerschaften zur Erforschung und Abmilderung von KI-Vorurteilen
• eine Beschreibung der beobachteten Arten unbeabsichtigter KI-Verzerrungen (einschließlich der erfassten Daten), der Bereiche, in denen sie auftreten, und der Auswirkungen, die sie auf die Institution haben
• eine Erklärung, in der dargelegt wird, wie diese Arbeit die Bildung und Ausbildung von Studenten und Forschern voranbringen würde

Weitere Informationen und die Möglichkeit, eine Antwort einzureichen, finden Sie im vollständigen RFI hier.

Möchten Sie die Gruppe über diese Herausforderungen aus Branchenperspektive informieren? Sie haben auch eine veröffentlicht RFI, wo sie hoffen, von kommerziellen und gemeinnützigen Organisationen zu hören, die Daten zur Entwicklung von KI-Fähigkeiten nutzen.