Start Unterhaltung Facebooks BlenderBot-Chat-KI hat nicht mehr die mentale Kapazität eines Goldfisches

Facebooks BlenderBot-Chat-KI hat nicht mehr die mentale Kapazität eines Goldfisches

Im vergangenen April hat Facebooks AI Research Lab (FAIR) seine Social-Chat-App BlenderBot als Open Source angekündigt und veröffentlicht. Während sich die Neophyten-KI sofort als weitaus weniger anfällig für rassistische Ausbrüche erwies als frühere Versuche, war BlenderBot nicht ohne Mängel. Zum einen hatte das System die Erinnerungskapazität eines Goldfisches – jedes Subjekt oder jeder Datenpunkt, den die KI ursprünglich nicht trainiert hatte, existierte in seiner Online-Realität einfach nicht, wie die anhaltende Beharrlichkeit des OG BB zeigt, dass Tom Brady immer noch spielt für die New England Patriots. Zum anderen neigte das System aufgrund seiner begrenzten Kenntnis des aktuellen Geschehens stark dazu, Wissen zu halluzinieren, wie ein digitaler Dunning-Kruger-Effekt. Aber die Weiterentwicklungen, die BlenderBot 2.0 anzeigt, die FAIR am Freitag debütierte, sollten die KI weit geselliger, sachkundiger und leistungsfähiger machen.

Während BlenderBot 1.0 seinen Speicher nur für eine einzige Diskussion aufrechterhalten konnte, kann sich sein Nachfolger Gesprächsthemen über mehrere Gespräche hinweg merken, die dank der Implementierung eines Langzeitgedächtnismoduls Tage, Wochen oder sogar Monate dauern können. Darüber hinaus kann die KI ihre Wissensdatenbank aktiv aktualisieren, indem sie im Internet nach den neuesten Nachrichten und Details zu jedem Thema sucht, über das der Benutzer sprechen möchte.

„BlenderBot 2 fragt die Bing-API nach Suchergebnissen basierend auf einer generierten Suchanfrage ab und konditioniert seine Antwort auf die wenigen Ergebnisse“, sagte Kurt Shuster, Forschungsingenieur bei Facebook AI, gegenüber Herne News. „Wir verlassen uns darauf, dass Bing qualitativ hochwertige Suchergebnisse liefert.“ Als solcher ist BlenderBot 2.0 jetzt in der Lage, kohärent über aktuelle Nachrichten und neue Medien zu sprechen, nicht nur über die Daten, auf denen er trainiert wurde.

MESSE

„BlenderBot 2 ist nur durch das begrenzt, was eine leistungsstarke Suchmaschine bieten kann“, fügte Jason Weston, Research Scientist bei Facebook AI, hinzu. Wenn Sie zum Beispiel mehr über Tom Yewcic (die Patriot-Kombination QB / Punter aus der Saison 1962) als über Tom Brady interessiert sind, ist BB 2.0 genau das Richtige für Sie. Dasselbe gilt für wissenschaftlichere Themen wie Photosynthese oder Redoxreaktionen, fuhr Weston fort. Solange die Informationen im Web verfügbar sind, „gibt es keinen Grund, warum BlenderBot 2 dies nicht diskutieren kann“.

Durch die aktive Suche im Internet nach Informationen kann BlenderBot 2.0 auch die Fälle reduzieren, in denen er Wissen halluziniert. „Wenn das System mit vernünftigeren Argumenten ausgestattet wird, kann BlenderBot sicherstellen, dass subtile Konzepte nicht verwechselt werden“, erklärte Weston, „wie ein Filmregisseur gegen einen Produzenten oder ein Pitching-Coach gegen einen Hitting-Coach.“

die Krone

MESSE

Die einzige Falte tritt wirklich auf, wenn man über nicht-englischsprachige Medien wie Demon Slayer: Kimetsu no Yaiba spricht. „Es ist vernünftig zu folgern, dass Bing Informationen darüber an die Oberfläche bringen wird und BlenderBot 2 diese Informationen entsprechend verwenden kann“, sagte er. „Wir konzentrieren uns derzeit auf englischbasierte Suchergebnisse, daher werden nicht-englische Referenzen möglicherweise nicht vollständig abgedeckt.“ Das System erkennt jedoch, dass Demon Slayer für Sie von Interesse ist und wird in zukünftigen Diskussionen eher Manga-zentrierte Themen zur Sprache bringen.

FAIR hat mehrere Schritte unternommen, um sicherzustellen, dass BlenderBot nicht der nächste Tay wird. „BlenderBot 2 lernt nicht wie Tay direkt aus Benutzereingaben“, sagte Shuster. „Wir haben umfangreiche Sicherheitsmaßnahmen ergriffen, um sicherzustellen, dass BlenderBot 2 mit gegnerischen Benutzern umgehen kann. Konkret setzen wir sowohl Einbrenn- als auch Zweistufentechniken ein. BlenderBot 2 kann sich selbst erkennen, wenn der eingehende Kontext zu einer anstößigen Reaktion führt, und zusätzliche Sicherheitsebenen, in denen ein Sicherheitsklassifizierer erkennen kann, ob entweder die Benutzereingabe oder die Ausgabe des Bots anstößig ist. Jeder geht angemessen mit der Antwort um.“

Und während sich das System derzeit darauf konzentriert, sich durch den englischen Sprachkorpus zu kauen, sieht FAIR, dass BlenderBot schließlich auch auf andere Sprachen ausgeweitet wird. „Obwohl es nicht in unseren unmittelbaren Plänen vorgesehen ist, ist es das Ziel unseres Teams, einen übermenschlichen Gesprächspartner aufzubauen“, sagte Shuster. „Diese Art von Agent erfordert mehrsprachiges Verständnis.“

Jüngste interne Benchmarking-Prozesse haben ergeben, dass BlenderBot 2.0 laut einem Freitagsblog von FAIR seinen Vorgänger um 17 Prozent in Bezug auf den Engagement-Wert und 55 Prozent in der Nutzung früherer Gesprächssitzungen übertraf. Darüber hinaus sank die Rate der Wissenshalluzinationen von BlenderBot von 9 Prozent (!) in BB 1.0 auf nur noch 3 Prozent in der aktuellen Iteration.

Mit Blick auf die Zukunft „ist die Interaktion von Menschen mit KI-Systemen über den Diskurs die Zukunft der KI“, so Weston, „und sicherzustellen, dass Menschen eine ansprechende, informative Erfahrung machen, ist für diese Zukunft von entscheidender Bedeutung. BlenderBot 2 kombiniert das Engagement von BlenderBot 1.0 mit den Wissenskapazitäten eines Systems mit Zugriff auf das gesamte Internet, also sind wir angeblich auf dem richtigen Weg.“

Alle von Herne News empfohlenen Produkte werden von unserem Redaktionsteam unabhängig von unserer Muttergesellschaft ausgewählt. Einige unserer Geschichten enthalten Affiliate-Links. Wenn Sie etwas über einen dieser Links kaufen, verdienen wir möglicherweise eine Affiliate-Provision.

Vorheriger ArtikelDas sind die besten Mittel gegen einen Quallenstich
Nächster ArtikelThe Morning After: Valve hat einen Handheld-Gaming-PC für 399 US-Dollar hergestellt