Als Mustafa Sulyman, eine führende Persönlichkeit auf dem Gebiet der künstlichen Intelligenz, ging Flexions-KI Als er im März die Leitung der KI-Abteilung von Microsoft übernahm, schwärmte die Tech-Welt von Microsofts Gewinn im anhaltenden Kampf um KI-Talente.
Weniger diskutiert wurde jedoch, welche Auswirkungen dieser Abschied auf Inflection AI hatte. Als Sulyman und etwa 70 Teammitglieder zu Microsoft wechselten, drängte sich die Frage auf: Was würde aus Inflection AI werden, das sich 1,525 Milliarden Dollar an Finanzmitteln gesichert und einen Großteil davon in die Entwicklung eines emotional empathischen persönlichen KI-Assistenten namens Pi gesteckt hatte?
In einem Exklusivinterview mit VentureBeat stellte Inflection AI letzte Woche sein neues Führungsteam vor, das aus erfahrenen Silicon-Valley-Veteranen besteht.
Sean White, der neu ernannte CEOverfügt über einen Hintergrund in den Bereichen Benutzererfahrung und Augmented Reality und leitete zuletzt die Forschung und Entwicklung von Mozilla.
Vibhu Mittal, jetzt Chief Technology Officerarbeitete zuvor als Doktorand an frühen Formen der generativen KI und half später beim Aufbau von Google Translate.
Ted Shelton, der neue Chief Operating Officer, kommt von Bain & Co, wo er Unternehmen zu KI-Anwendungen beriet.
Ian McCarthy, führendes Produkt, bringt Erfahrung von Microsoft, Sony, Yahoo und LinkedIn mit.
Trotz des Suleyman-Exodus hat sich Mitbegründer Reid Hoffman, ein Risikokapitalgeber, der vor allem für die Gründung von LinkedIn bekannt ist, dafür entschieden, sich nicht aufzulösen, sondern sich zu verdoppeln. Er wird von einer Kriegskasse von weniger als dem unterstützt meldete 650 Millionen US-Dollar Microsoft zahlte Inflection einen Deal für die Übernahme von Suleyman. Hoffman wollte nicht sagen, wie viel das Unternehmen übrig hat, sagte aber in einem Interview mit VentureBeat, dass das Unternehmen „echtes Geld“ habe. Für 18 Monate ist es gut finanziert.“
Heute kündigt das Unternehmen eine Neuausrichtung seiner Mission an: Es möchte seine Führungsposition im Bereich der emotionalen Intelligenz innerhalb der KI verdoppeln, in einer Zeit, in der Branchenriesen wie OpenAI, Microsoft und Google kognitive Fähigkeiten in den Vordergrund stellen. Und sein Geschäftsplan besteht darin, einfühlsame Chatbots für andere Unternehmen zu entwickeln – Bots, die sich an die individuellen Kommunikationsbedürfnisse des Unternehmens anpassen und diese widerspiegeln können.
Hoffman liefert ein aktuelles Beispiel dafür, wie Pi sich für ihn von anderen führenden Modellen wie ChatGPT und Gemini abhob.
Als ein Freund eine geliebte Begleitkatze verlor, fragte Hoffman zunächst die führenden traditionellen Vorbilder, was er tun sollte, um seinen Freund zu trösten, und alle antworteten ungefähr auf die gleiche Weise, mit einer Liste: zum Beispiel einem Freund Blumen besorgen oder etwas anbieten um ihnen bei alltäglichen Dingen zu helfen.
Aber Pi reagierte anders: „Das muss wirklich hart für deinen Freund sein, und weil du ein Freund bist, ist dir das wichtig“, erinnert sich Hoffman. „Aber du kennst deinen Freund. Auf welche Art würde sich Ihr Freund Ihrer Meinung nach am meisten wünschen, dass Sie für ihn da sind?“ Mit anderen Worten, sagte Hoffman: Pi kennt die Liste wie alle anderen, antwortet jedoch weniger mit einer Wikipedia-Auflistung und konzentriert sich stattdessen auf das „emotionale Gefüge“ rund um die Frage.
Das neue Team sagt, dass sein Engagement für das, was es „EQ“ oder emotionalen Quotienten nennt – etwas, von dem das Team sagt, dass es eine entscheidende, aber oft übersehene Komponente ist – es in einem Markt, der nach wirklich hilfreichen Chatbot-Interaktionen verlangt, von anderen abheben wird.
Sean White, der neu ernannte CEO, erläuterte den entscheidenden Punkt während eines Interviews im Silicon Valley-Konferenzraum bei Greylock Ventures, wo Hoffman Partner ist. Die führenden LLMs, sagt er, „verfügen über viel Wissen, sie können einen hohen IQ haben, aber sie hören nicht unbedingt aktiv zu.“
Teamhintergrund
In meinem Interview mit White sitzen an einem Konferenztisch die drei anderen neuen Führungskräfte des Unternehmens, bei denen Hoffman allesamt eine Rolle bei der Rekrutierung gespielt hat. Sie alle sind erfahrene Silicon-Valley-Veteranen und haben in vielen Fällen bereits bei früheren Startups zusammengearbeitet.
Sie sagen, dass die Struktur des Teams eine tiefe Erfahrung und Ausrichtung auf die Arbeit an der Benutzererfahrung ist. Und sie verbindet die Vision, eine Technologie zu entwickeln, die nicht nur versteht und liefert, was Benutzer wollen, sondern auch dafür sorgt, dass sich die Benutzer danach besser fühlen.
Das Team spricht über jeden seiner Erfolge und warum es beim Pivot helfen wird.
CEO White hat beispielsweise den Begriff „situierte Visualisierung“ erfunden, der sich auf die Idee bezieht, visuelle Informationen so zu ändern, dass sie so angezeigt werden, wie Sie es erwarten würden, wenn Sie sich bewegen oder sich Ihre physische Umgebung ändert. Er hat auch viel Zeit damit verbracht, sich mit den Neurowissenschaften zu befassen, was ihm ein Verständnis für die Rolle vermittelt hat, die EQ im Dialog spielt.
Mittal hingegen arbeitete bereits vor 35 Jahren an der frühen generativen KI, bevor diese populär wurde. Sheltons Arbeit für Unternehmen bei Bain umfasste nicht nur die Beratung darüber, welche Apps KI erstellen sollten, sondern auch, wie Herausforderungen bei der Bereitstellung gemeistert werden können.
Und McCarthy, der zuletzt zwei Jahre bei Microsoft war, hat die neuen KI-Commerce-Produkte des Unternehmens vor und nach der Einführung von ChatGPT mitgestaltet.
Konzentrieren Sie sich auf EQ
Das Team räumt ein, dass EQ kein sehr gut erforschter Bereich in der Informatik ist, vor allem weil sich das Fachgebiet so stark auf den IQ konzentriert hat.
Das Fehlen eines allgemein akzeptierten Maßstabs für das Niveau der emotionalen Intelligenz in LLMs der GPT-4-Klasse unterstreicht die Einzigartigkeit des Fokus von Inflection, sagt Shelton. Das Unternehmen plane, eine Initiative zur Festlegung eines objektiven Branchen-Benchmarks anzukündigen, sagte er. Eine Untersuchung des „einfühlsamen Gesprächs“ durch einen Professor der UC Berkeley im letzten Jahr fand heraus, dass Pi hervorragend war gegen Claude, Chat-GPT und Googles damals führendes Modell Bard.
EQ in der KI bedeutet, dass das System die Stimmung seiner Benutzer wahrnehmen und auf eine Weise reagieren kann, die sich rücksichtsvoll und hilfreich anfühlt, sagten sie. Unternehmen wollen Chatbots, die das können, haben aber noch nicht herausgefunden, wie: Wenn man gerade Unternehmen anruft, erhält man eine zufällige Runde von Leuten, die einen nicht kennen“, sagt Shelton. „Was wäre, wenn Sie Hilton oder eine andere Hotelkette, der Sie angehören, anrufen und es sich an Sie erinnert? Sie sagen: „Hey Matt, schön, von dir zu hören.“ Das letzte Mal haben Sie uns in Palm Springs gebucht. Du bist wieder auf dem Weg dorthin!‘“
Und was wäre, wenn Unternehmen ihren KI-Agenten darüber hinaus einen spezifischen Ton und eine bestimmte Persönlichkeit verleihen könnten, die sie über alle Kommunikationskanäle hinweg nutzen könnten? Ein Finanzunternehmen, mit dem Inflection zusammenarbeitet, sagte, es dauere Wochen, einen neuen menschlichen Contact-Center-Agenten in Dingen wie Markenwerten und der Kommunikation mit Kunden zu schulen, sagte Shelton.
Die technologischen Innovationen von Inflection AI
Der Vorteil von Inflection AI besteht darin, dass es seit zwei Jahren am EQ arbeitet. Sein halbes Dutzend Modelle werden auf großen Datensätzen emotionaler Gespräche zwischen realen Menschen trainiert, die ihm beibringen, wie man auf Menschen reagiert, die zutiefst persönliche Probleme zum Ausdruck bringen. Anschließend verfeinert das Unternehmen seine Modelle zusätzlich mit dem sogenannten „empathischen Fine-Tuning“, das seine Persönlichkeit individualisiert. Diese Feinabstimmung entspricht fast dem Ausmaß des Vortrainings selbst, sagt Mittal.
Da es sich um einen Teil der Feinabstimmung handelt, ändert die Persönlichkeitsanpassung tatsächlich die sogenannten „Gewichte“ des Modells und stellt so sicher, dass die Persönlichkeit im Modell stabil wird, sagte White. „Eine LLM-Persönlichkeit, die allein durch Kontext und Aufforderungen entsteht, wird häufig verwirrt sein, um welche Persönlichkeit es sich handelt“, sagte er.
Der Ansatz stehe im Gegensatz zu konkurrierenden führenden Bots, sagt Mittal, die sich auf die Größe vorab trainierter Daten konzentriert hätten. Diese Bots nutzten die gleichen Trainingsdaten wie alle anderen, also den Korpus im Web. Aber für EQ sei es viel schwieriger, an diese Daten zu kommen, sagt er. „Es gibt kein Label-Korpus“, sagte Mittal. „Und wir haben Zugriff auf Hunderttausende von Feinabstimmungsbeispielen, mit denen wir jedes von uns gebaute Modell ausprobieren und verbessern können.“
Natürlich hatte das scheidende Team viel Geld ausgegeben, um Basismodelle zu entwickeln, die auch einen starken IQ aufwiesen. Vor Suleymans Weggang im März veröffentlichte das Unternehmen sein Modell Inflection 2.5 und behauptete, es sei „mehr als 94 Prozent der durchschnittlichen Leistung von GPT-4„, OpenAIs damals erstklassiges KI-Modell bei der Erfüllung von IQ-bezogenen Aufgaben.
„Einer der Gründe, warum wir so gut sind, ist, dass wir den GPT-4-äquivalenten IQ haben“, sagt White, „aber wir haben den besten EQ, den es gibt … Wir haben die Plattform, den Rahmen, um nicht nur das Grundlagentraining durchzuführen, sondern.“ auch das Feintuning.“
Ein weiterer Aspekt von Pi ist, dass es ein Sprachmodul bietet, und auch hier zeichnet sich das Gespräch durch einen unterstützenden Ton aus, der für eine empathischere Interaktion sorgt. Shelton sagte, wenn er mit Benutzern von Pi spricht, sagen diese oft, dass sie es zur Problemlösung verwenden, und mehrere sagen, dass sie es im Auto während der Fahrt verwendet haben.
Die Bedeutung der Erinnerung
Pis persönliche Note war es, was White überzeugte, als CEO einzusteigen. Er erinnert sich an einen kürzlichen Besuch bei seiner Familie, als er Pi fragte, ob es in der Stadt Muffaletta-Sandwiches gäbe und wo man die besten bekäme. Als er wieder in San Francisco ankam, öffnete er die Pi-App, um sie nach etwas anderem zu fragen, und war überrascht, als Pi ihn fragte, ob er das Muffaletta-Sandwich probieren konnte. „Das hatte etwas Verrücktes und Magisches“, sagt White.
Diese Magie hat natürlich bekannte technische Grundlagen. Ein Teil davon ist das Gedächtnis, da sich Pi an mindestens 100 Gesprächsrunden erinnern kann. Es merkt sich, wer Sie sind und was Ihnen am wichtigsten ist. Es werden Folgefragen gestellt, um vollständig zu verstehen, was Sie von ihm verlangen. Die App erstellt eine Hierarchie rund um Ihre wahrgenommenen Bedürfnisse, sodass sie nicht durch einzelnes Hin und Her abgelenkt wird.
Diese Gedächtnis- und Emotionsfunktionen sind etwas, bei dem die Konkurrenz aufholt. Das Unternehmen OpenAI hat letzten Monat seine Speicherfunktionen in ChatGPT aktualisiert. Und das neue GPT-4o-Modell von OpenAI sorgte für mehr Emotionen.
Während OpenAI und andere führende Chatbot-Anbieter ihre EQ-Angebote wahrscheinlich verbessern werden, geht Mittal von Inflection seiner Meinung nach davon aus, dass das Unternehmen mindestens ein Jahr Zeit hat, bevor die anderen aufholen. Aus diesem Grund konzentriert sich Inflection darauf, Unternehmen beim Aufbau personalisierter Chatbots zu unterstützen – denn konkurrierende Chatbot-Unternehmen wie OpenAI und Google wetteifern darum, den Massenmarkt zu bedienen, konzentrieren sich jedoch nicht auf kundenspezifische Anpassungen.
Das Unternehmen verfügt über eine Kriegskasse, muss aber neue Mitarbeiter einstellen
Das Unternehmen benötige keine Finanzierung, sagt White, da Greylock voll und ganz hinter dem Unternehmen stehe. Es müsse Talente eingestellt werden, sagte er. Das Team besteht derzeit aus etwa 12 Mitarbeitern, erweitert jedoch sein Engineering-Team und konzentriert sich auf Feinabstimmung und Plattform-Engineering-Expertise.
Die App erfreut sich immer noch etwa 6 Millionen Unique Usern pro Monat und über einer Million pro Tag und lernt daher weiterhin aus den Verbraucherinteraktionen innerhalb der App. White sagt auch, dass er von mehreren Mitgliedern des ausgeschiedenen Teams, das die Kernsysteme aufgebaut hat, die Zusage erhalten hat, dass sie während des Übergangs weiterhin bei der Wartung helfen werden.
Zukünftig konzentriert das Unternehmen seine Bemühungen auf den Aufbau eines KI-Studios, um mit Marken zusammenzuarbeiten und ihre eigenen Assistenten zu entwickeln. Inflection sieht zwei Hauptbereiche, in denen Unternehmen bedient werden können APIs: einfühlsame Kundendienstmitarbeiter und Bots, die internen Mitarbeitern dienen, beispielsweise um Fragen für Manager oder Mitarbeiter zu beantworten. Und drittens ist geplant, emphatische Agententechnologie an Plattformunternehmen zu lizenzieren, die Chatbot-Technologien für andere Unternehmen bereitstellen.
Während das erfahrene Team von Inflection AI die entscheidende Rolle von Empathie in der KI vertritt und scheinbar einen Kopf hat, liegt die eigentliche Prüfung in ihrer Umsetzung. Mit seiner Finanzierung und seiner erfahrenen Führung hat Inflection AI genauso gute Chancen wie alle anderen, einen riesigen, aber hart umkämpften B2B-Markt zu erschließen.
