KI spiegelt Gesellschafts Vorurteile wider, sagt Oxford Insights CEO
Astana – Dies ist der zweite Teil des Interviews der Astana Times mit Richard Stirling, Mitbegründer und CEO von Oxford Insights, einem globalen Beratungsunternehmen hinter dem KI-Bereitschaftsindex. Im ersten Teil diskutierte er, was es braucht, bis eine Regierung KI bereit ist, und die Möglichkeiten, die er in Kasachstan sieht. In diesem Teil befasst er sich mit breiteren Risiken, die aus der KI herrühren.
Flipseiten von KI
Es besteht jedoch breitere Risiken, die mit AI verbunden sind. Der Nachteil ist, dass sie möglicherweise nicht das tägliche Leben, Erfahrungen oder Sprachen widerspiegeln, wenn sich Menschen auf nur wenige KI-Modelle verlassen – meistens in den USA oder China geschult.
„Infolgedessen sind die Antworten, die wir zurückbekommen, vollkommen gültig, aber sie spiegeln die Daten wider, auf denen die Modelle trainiert werden“, sagte Stirling.
Er erwähnte Fälle von KI-Modellen, die bei Gerichtsentscheidungen in den USA behilflich waren
„Es hat eine Weile ziemlich gut funktioniert, bis sie das Modell testeten und feststellten, dass die Entscheidung nur über die ethnische Make-up der Person getroffen wurde, die vor ihnen stand. Das klingt nach einer schrecklichen KI-Geschichte, aber es hatte das aus den Entscheidungen des Gerichts zuvor gelernt. Es hält einen Spiegel an unsere Gesellschaft und unsere Gesellschaft ist nicht frei von Vorurteilen “, sagte Stirling.
Da keine Gesellschaft frei von Voreingenommenheit ist, stützt sich ausschließlich auf bestehende Daten, ohne diese Probleme anzugehen, die Risiken für die Stärkung oder sogar die Vertiefung gesellschaftlicher Vorurteile. Während die Verwendung von KI in Bereichen, die so empfindlich sind, wie Gericht oder Gesundheitswesen, Bedenken aufnehmen könnte, muss sich jedes Land selbst entscheiden, sagte Stirling.
„Ich würde es wahrscheinlich nicht vor Gericht haben, und ich würde es wahrscheinlich in der Medizin haben. In Gerichten nehmen Sie das Leben und die Freiheit von jemandem weg und in der Medizin geben Sie es zurück. Aber ich kann vollständig verstehen, warum Sie in der Medizin nicht damit zufrieden wären. Ich denke, dass dies die Diskussionen sind, die wir als Gesellschaft haben sollten, und wir sollten eine gesellschaftliche Schlussfolgerung ziehen. Wir sollten Grenzen einsetzen, die dieses Gespräch widerspiegeln, anstatt von Menschen geführt zu werden, die über die Technologie oder über die Technologie übernommen werden “, sagte Stirling.
Datenschutz
Die andere Flip-Seite ist, dass eine schnelle KI-Entwicklung und -integration kritische Bedenken hinsichtlich der Datenschutz und Sicherheit von Daten aufmerksam machen. Stirling fordert die Aktualisierung der Regeln und Gesetze, um „die Herausforderungen widerzuspiegeln, denen sich die Gesellschaft jetzt gegenübersieht“.
„Datenschutz ist eine Sache, und sicherzustellen, dass die Daten, die Sie in diese Systeme einfügen, so behandelt werden, wie sie behandelt werden sollen. (…) Was könnten Sie als personenbezogene Daten betrachten? Ist Ihr Bild personenbezogene Daten? Wenn ich jetzt einen Screenshot gemacht habe, sollte ich das verwenden können? Soll ich nicht? Und dann gibt es Inhalte aus, die Berichte für Sie sind, aber nicht. Und wie ist die Rolle dabei? “ sagte er.
Diese Debatten bleiben ungelöst, da die Gesetze Schwierigkeiten haben, mit der raschen Technologieentwicklung Schritt zu halten.
„Dies sind Live-Fragen, von denen ich nicht glaube, dass jemand richtig auf den Grund ist. Denn in dem Moment, in dem Sie etwas in einem Gesetz kodifizieren, wird es schwierig, sich zu ändern. Was auch wahr ist, ist die Stunde der Technologie. Es ändert sich im Moment von Woche zu Woche “, sagte er.
Die Europäische Union beispielsweise hat proaktiv Vorschriften für digitale Rechte und KI festgelegt und Probleme wie die Bildnutzung lange bevor AI-generierte Inhalte zum Mainstream wurden. Ihre Gesetze erkennen das Recht auf Privatsphäre als grundlegendes menschliches Recht an.
Im Jahr 2024 trat das AI-Gesetz der EU in Kraft und skizzierte klare Richtlinien und Verantwortlichkeiten für Entwickler und Benutzer von KI in bestimmten Anwendungen. „Weil das Risiko bei der Regulierung zu hart und zu früh ist, dass Sie eine Branche unterdrücken, die Sie wachsen möchten, und Sie den Menschen den Raum für Kreativität geben müssen“, sagte Stirling.
Ein kleiner Experte in der Tasche
AI kann nicht nur Branchen verändern, sondern auch in den Händen von Menschen ein hilfsbereiter Assistent werden. Die Verwendungen können von der Planung einer Reise-Reiseroute bis hin zur Durchführung einer Zusammenfassung von tausendseitigen Buch variieren. Stirling beschrieb KI-Werkzeuge als „kleiner Experte in meiner Tasche“.
„Ich werde gestehen, jemand zu sein, der KI viel benutzt. Ich reise viel mit Arbeit. Ich benutze KI, um herauszufinden, was für mich eine gute Reiseroute ist, wenn ich in einer neuen Stadt auftauche. (…) Ich mache Fotos von Räumen in meinem Haus und bitte um Vorschläge zur Farbe oder benutze KI, um mir Ratschläge zu den erforderlichen Schritten, DIY oder irgendetwas in einem Regime zu geben, um fit zu werden “, fügte Stirling hinzu.
