change language     -        


„Ethische KI“, die darauf trainiert ist, moralische Ratschläge zu erteilen

5 November 2021, 08:26

Technik





news_image

Bild: Adobestock

 

Künstliche Intelligenz (KI) verändert unsere Welt, sei es bei historischen Durchbrüchen in der Medizin oder bei der Annahme unserer Fast-Food-Bestellungen bei der Durchfahrt. Allerdings ist KI wirklich, wirklich schlecht, wenn es um Ethik geht. Moral ist eines der komplexesten Dinge des Menschen, und KI hat immer wieder gezeigt, dass es absolut keine gibt – es ist schließlich ein Computeralgorithmus. Sie ist regelmäßig rassistisch und opfert nur allzu gerne Leben im Namen des „Grossen Gutes“; Leider ist Ultron eine relativ realistische Darstellung einer KI, wenn man dieses Leistungsniveau erhält.

Es wird daher nicht überraschen, dass die Antworten von Forschern, die eine KI zur Beantwortung ethischer Fragen entwickelten, von „vernünftig“ bis „genozidalistisch“ reichten.

Ask Delphi ist eine maschinelle Lernsoftware, die Antworten auf alle ethischen Fragen generiert, die Sie möglicherweise haben, und – wie alle KI, mit der die Öffentlichkeit spielen kann – vor kurzem aufgrund der schockierenden Antworten auf grundlegende moralische Fragen zum Internet-Star aufgestiegen ist. Bei manchen hat es richtig geklappt. Darf ich zu einer Beerdigung einen Schlafanzug tragen? Nein, sagt Ask Delphi, das ist unangemessen.



Aber ab da geht es bergab. Wie Benutzer auf Twitter schnell darauf hinwiesen, hatte Ask Delphi einige ziemlich extreme Ansichten über Abtreibung, Rassismus und sogar Völkermord. Bemerkenswerte Beispiele waren, dass es akzeptabler ist, weiß zu sein, als schwarz zu sein, und dass Abtreibung direkter Mord ist. Ein besonderes von Vox berichtetes Beispiel enthüllte die Antwort auf die Frage „Soll ich Völkermord begehen, wenn es alle glücklich macht?“ war "du solltest".



Wie bei allen maschinellen Lernalgorithmen passt sich Delphi an, und diese Antworten sind nicht mehr dieselben. Delphi scheint in seiner Reife gemildert zu sein und reagiert nun mit angemesseneren Antworten. Und nein, Ask Delphi unterstützt keinen Völkermord mehr.

Delphi ist eine vom Allen Institute for AI entwickelte KI, die mit einer Vielzahl von ethischen Fragen gefüttert wurde und dann Antworten aus einer großen Datenbank namens Mechanical Turk lernte. Entgegen der landläufigen Meinung hat Delphi die Moral von Reddits Am I The Asshole (AITA) nicht gelernt – wenn dies der Fall wäre, könnten wir mit einem noch umstritteneren Bot konfrontiert werden. Stattdessen stammten die Antworten von einer Reihe von Forschern, die wahrscheinlich die moralischsten Antworten lieferten, die man im Internet finden konnte, aber eine Auswahl von Fragen, die auf AITA veröffentlicht wurden, als gute Quelle für komplexe ethische Dilemmata verwendet wurden.

Natürlich kann eine KI Moral nicht wirklich verstehen, aber durch Crowdsourcing-Antworten und die Erstellung eines Algorithmus zur Generierung einer guten Passform wollten die Forscher sehen, ob sie noch akzeptabel antworten kann. Im Vergleich zu anderen KI in ihrem Artikel schnitt sie tatsächlich bemerkenswert gut ab – Delphi verzeichnete eine Genauigkeit von 92,1 Prozent bei menschlichen Antworten, eine deutliche Verbesserung gegenüber GPT-3, einer anderen KI.





Das Experiment hinterließ den Forschern interessante Schlussfolgerungen. Überraschenderweise konnte es komplexe ethische Fragen mit hoher Genauigkeit behandeln, wie ein Mensch antworten würde, aber es hatte auch große Probleme, als die Formulierung komplizierter wurde. Es wurde leicht getäuscht und berücksichtigt keine kulturellen Unterschiede, was in diesen Kontexten wichtig ist. Auch wenn sie sich verbessert, ist klar, dass KI niemals verwendet werden sollte, um komplexe ethische Entscheidungen zu treffen, da selbst eine Fehlerquote von weniger als 10 Prozent eine Katastrophe bedeuten könnte, wenn man der Reaktion Gewicht beimisst.


Quelle:Twitter


Hat dir dieser Artikel gefallen? Dann teil ihn mit deinen Freunden.




Folgt uns um keinem Artikel mehr zu verpassen




news_image

Vergessen Sie die Gesichtserkennung! Forscher auf der ganzen Welt haben neue Wege und Technologien gefunden, um Sie zu überwachen. Laser, die Ihren Herzschlag oder ihren individuellen Mikroorganismus erfassen, werden längst entwickelt.

Read more

news_image

Wir alle kennen das Gefühl uns hin und wieder Niedergeschlagen oder trauig zu fühlen. Wenn diese Geühle allerdings über längeren Zeitraum anhalten, spricht man von einer Depression oder einer depressiven Verstimmung.

Read more

news_image

Der Stadtrat hat ein 1,2-Milliarden-Dollar-Hilfspaket zur Bekämpfung der Obdachlosigkeit gewährt, bis 2025 soll es in LA Tausende Betten in Mini-Siedlungen geben, derzeit sind es insgesamt 1500. Wenn jedes davon von mehreren Leuten genutzt wird, niemand s

Read more

news_image

Hauptaufgabe des Lohn- und Sozialdumping-Bekämpfungsgesetzes (LSD-BG) ist es, die arbeitsrechtlichen Ansprüche von Arbeitnehmern zu sichern und einen fairen Wettbewerb zwischen den Unternehmungen zu ermöglichen.

Read more

news_image

m die Herstellungskosten von Waren zu senken, suchen Unternehmen nach Strategien, um sicherzustellen, dass die Preise ihrer Produkte niedrig genug sind. In diesem Bestreben lagern Unternehmen, die in entwickelten Ländern ansässig sind, nicht nur die Produ

Read more


allnews_image

Jetzt möchte das Unternehmen Geld verdienen und das soll nicht nur mit Werbung passieren.

Voir plus


allnews_image

Seit 2015 forscht und lehrt er am Institut für Soziale Ökologie an der Universität für Bodenkultur in Wien. Er ist Mitherausgeber eines Sachstandberichts des Climate Change Center Austria, der die gesellschaftlichen Strukturen für ein klimafreundlicheres

Voir plus


allnews_image

Partnerschaften mit pharmazeutischen Labors Nähere Details nennt die Ankündigung nicht, wir haben jedoch bereits gesehen, wie KI im medizinischen Bereich eingesetzt wird, beispielsweise als AlphaFold von DeepMind die Struktur von Proteinen vorhersagen ko

Voir plus


allnews_image

Wie Google zu seiner Zeit, aus der Alphabet wurde, ändert Facebook seinen Namen, damit seine zukünftigen Produkte wie eine vernetzte Uhr und das Metaverse nicht unter dem Image von ... Facebook leiden

Voir plus


allnews_image

Es ist das derzeit am meisten gehypte Essen! Und das ist gut in dieser Zeit der COP 26, in der sich bereits 80 Länder verpflichtet haben, die Methanemissionen bis 2030 um 30 % zu senken balbisiana.

Voir plus


allnews_image

Wie bei allen maschinellen Lernalgorithmen passt sich Delphi an, und diese Antworten sind nicht mehr dieselben. Delphi scheint in seiner Reife gemildert zu sein und reagiert nun mit angemesseneren Antworten.

Voir plus



allnews_image

Die vielleicht auffälligsten und alarmierendsten Veränderungen wurden jedoch im Gehirn beobachtet. Durch den Vergleich von Gehirnscans, die vor und nach dem Experiment durchgeführt wurden, stellten die Ärzte fest, dass die Ernährung die Schaffung neuer fu

Voir plus


allnews_image

Das eVTOL-Elektroflugfahrzeugkonzept von SkyDrive wird derzeit durch den SD-03 repräsentiert, der im August 2020 eine erfolgreiche bemannte Flugdemonstration absolvierte.

Voir plus


allnews_image

Obwohl ich mir sicher bin, dass Impossible Foods darauf aus ist, die Angeberrechte dafür zu bekommen, bin ich nicht ganz davon überzeugt, dass künstliche Lebensmittel etwas sind, das wir wirklich brauchen. Ich meine, die Idee, tonnenweise Nahrung zu sich

Voir plus


allnews_image

Jetzt fordern sie die Haushalte auf, vor dem Winter Lebensmittel zu lagern, was unter den Internetnutzern wilde Verschwörungen über die Verschärfung der Spannungen mit Taiwan entfacht.

Voir plus


allnews_image

Kennen Sie das Cognitive Warefare Project (Projekt zur kognitiven Kriegsführung) der NATO? Ich bislang auch noch nicht.

Voir plus


allnews_image

Die Briten wurden auch gewarnt, auf die Anzeichen zu achten, dass sich die Supererkältung zu einer tödlichen Lungenentzündung entwickelt hat.

Voir plus


allnews_image

Kassenlose Discounter: Aldi Nord eröffnet bald ein neues Ladenkonzept, das ganz ohne Kassiererinnen auskommt. Per KI-gestützter Infrastruktur soll der Einkauf unkomplizierter werden.

Voir plus


allnews_image

Stellen Sie sich ein Netzwerk unsichtbarer Sensoren vor, die in Stadtstraßen eingebettet sind, um den Verkehr, Straßenschäden zu überwachen und alle verfügbaren Parkplätze in Echtzeit zu identifizieren.

Voir plus


allnews_image

Seit geraumer Zeit hört man wieder vermehrt das Thema "Cannabis Legalisierung" in Deutschland. Was ist dran an dem getuschel und kommt die Legalisierung wirklich nach Deutschland? Unter welchen Vorraussetzungen könnte das passieren? Und stimmt es das durc

Voir plus


allnews_image

Samsung forscht bereits an einem Nachfolger des noch relativ jungen 5G-Standards. Für 6G hat das Unternehmen schon letztes Jahr ein Whitepaper vorgelegt, das auch Mobilfunk im Terahertz-Frequenzbereich vorsieht. Mit der University of California, Santa Bar

Voir plus


allnews_image

Alle Videos der #AllesDichtMachen Kampagne

Voir plus


allnews_image

Alle Videos der #AllesDichtMachen Kampagne

Voir plus


allnews_image

Das Bundesinnenministerium fordert eine anlasslose Personen-Vorratsdatenspeicherung mit verifizierten Daten aller Bürger:innen, die im Internet über Messenger oder E-Mail kommunizieren. Wir veröffentlichen den Volltext des Forderungskataloges.

Voir plus


allnews_image

Unbekannte haben sich offenbar Corona-Hilfen ergaunert - in derart großem Stil, dass der Bund die Abschlagszahlungen vorerst einstellt - mitten in der Krise.

Voir plus




allnews_image

China verfolgt mit dem Infrastrukturprojekt „Neue Seidenstraße“ nicht nur wirtschaftliche Interessen, glaubt Martin Uebele von der University of Groningen. Der Dozent für „Economic and Social History“ geht davon aus, dass Peking auch auf der politischen B

Voir plus


allnews_image

Nach dem Corona-Gipfel heißt es, Angela Merkel habe ihre Strategie geändert. Hat sie gar nicht. Sie ist wieder allen voraus und beweist Gespür. Ein Kommentar. STEPHAN-ANDREAS CASDORFF

Voir plus


allnews_image

Wie geht es mit der Impfpflicht weiter? Bekommt Deutschland auch einen grünen Pass, oder etwas ähnliches? Werden wir womöglich doch "Gezwungen" uns impfen zu lassen um am Leben teilhaben zu können? Was geschieht mit den nicht geimpften? Was dürfen und was

Voir plus


allnews_image

Wer heute Abend zwischen 21 Uhr und 22 Uhr noch nicht weiß was er machen soll, kann sich die erste Rede von Donald Trump live auf Youtube verfolgen.

Voir plus


allnews_image

Bundesfinanzminister Olaf Scholz zeigt sich zuversichtlich, dass es bald eine Rückkehr „zu einem normaleren Leben“ geben werde. Bei dem Zusammenspiel zwischen der Öffnungsstrategie, den Impfungen und dem Testen brauche es aber „eine Lösung aus einem Guss“

Voir plus