DFKI präsentiert MedGenAI-Projekt zur Verbesserung der Fairness bei KI-Diagnose von Hautkrankheiten
Das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI) hat auf der Hannover Messe das Projekt MedGenAI vorgestellt, das mittels KI-generierter synthetischer Bilder die Zuverlässigkeit und Fairness der dermatologischen Diagnose verbessern soll. Das Problem: In Trainingsdaten für diagnostische KI-Modelle sind deutlich weniger Bilder von jungen Menschen und Personen mit dunkleren Hauttypen enthalten, was zu Voreingenommenheit führt. Die Forschenden entwickelten einen kompakten Diffusion-Transformer, der in nur einem Tag auf einem System mit acht Grafikkarten trainiert werden kann und sogenannte Counterfactuals erstellen kann – minimale Abweichungen von Krankheitsbildern, die für die Fehleranalyse von medizinischen KI-Tools genutzt werden können.