Ein Team von Forschern von führenden Institutionen einschließlich Shanghai Jiao Tong Universität Und Zhejiang Universität hat so entwickelt, was sie als das erste „Gedächtnisbetriebssystem“ für künstliche Intelligenz bezeichnen, und sich auf eine grundlegende Einschränkung befasst, die KI-Systeme daran hindert, ein menschliches anhaltendes Gedächtnis und das Lernen zu erreichen.
Das System, genannt Memosbehandelt den Speicher als Kernressource, die im Laufe der Zeit geplant, gemeinsam genutzt und weiterentwickelt werden kann – ähnlich wie herkömmliche Betriebssysteme die CPU und Speicherressourcen verwalten. Die Forschung, Veröffentlicht am 4. Juli auf Arxivzeigt signifikante Leistungsverbesserungen gegenüber vorhandenen Ansätzen, einschließlich einer Steigerung der zeitlichen Argumentationsaufgaben im Vergleich zu OpenAI -Speichersystemen.
„Große Sprachmodelle (LLMs) sind zu einer wesentlichen Infrastruktur für künstliche allgemeine Intelligenz (AGI) geworden, aber ihr Fehlen an gut definierten Speichermanagementsystemen behindert die Entwicklung des lang Kontext-Arguments, der kontinuierlichen Personalisierung und der Konsistenz des Wissens“, schreiben die Forscher in ihre Zeitung.
KI -Systeme kämpfen mit anhaltendem Gedächtnis über Gespräche hinweg
Aktuelle KI -Systeme sehen sich dem aus, was Forscher die nennen “Memory SiloProblem-Eine grundlegende architektonische Einschränkung, die sie daran hindert, kohärente, langfristige Beziehungen zu Benutzern aufrechtzuerhalten. Jede Konversation oder Sitzung beginnt im Wesentlichen von vorne, wobei Modelle nicht in der Lage sind, Vorlieben, akkumulierte Kenntnisse oder Verhaltensmuster über die Interaktionen hinweg zu behalten. Dies schafft eine frustrierende Benutzererfahrung, bei der ein AI-Assistent die in einem Gespräch in einem Gespräch erwähnte Nahrungsbeschränkungen vergessen könnte.
Während einige Lösungen mögen REMAINAL-AUGENTED-Generation (LAG) Versuchen Sie, dies durch Einziehen von externen Informationen während der Gespräche zu beheben, und behaupten, dass dies „staatenlose Problemumgehungen ohne Lebenszykluskontrolle“ bleiben. Das Problem läuft tiefer als das Abrufen des einfachen Informationen – es geht darum, Systeme zu erstellen, die sich aus der Erfahrung wirklich aus der menschlichen Erinnerung entwickeln und sich aus der Erfahrung entwickeln können.
„Bestehende Modelle beruhen hauptsächlich auf statische Parameter und kurzlebige Kontextzustände, wobei die Fähigkeit einschränkt, Benutzerpräferenzen zu verfolgen oder das Wissen über längere Zeiträume zu aktualisieren“, erklärt das Team. Diese Einschränkung zeigt sich besonders in Unternehmensumgebungen, in denen von KI-Systemen erwartet wird, dass sie den Kontext über komplexe, mehrstufige Workflows hinweg aufrechterhalten, die möglicherweise Tage oder Wochen umfassen.
Neues System liefert dramatische Verbesserungen bei KI -Argumentationsaufgaben
Memos führt einen grundlegend anderen Ansatz durch das, was die Forscher nennen.Memcubes”-standardisierte Speichereinheiten, die verschiedene Arten von Informationen zusammenfassen und im Laufe der Zeit komponiert, migriert und weiterentwickelt werden können. Diese reichen von explizitem textbasiertem Wissen bis hin zu Anpassungen auf Parameterebene und Aktivierungszuständen innerhalb des Modells, wodurch ein einheitliches Framework für die Speicherverwaltung erstellt wird, das zuvor nicht existierte.
Tests auf dem LOCOMO -BenchmarkIn allen Kategorien übertraf die Memos, die maßstabsorientierte Argumentationsaufgaben bewertet, und übertrafen die etablierten Basislinien konsequent übertroffen. Das System erzielte eine Gesamtverbesserung von 38,98% im Vergleich zur Implementierung von OpenAI, wobei die komplexen Argumentationsszenarien besonders starke Gewinne erzielen, die die Verbindung von Informationen über mehrere Konversationen hinweg erfordern.
“Memos (MEMOS-0630) belegt in allen Kategorien konsequent an erster Stelle und übertrifft starke Basislinien wie Mem0, Langmem, ZEP und OpenAI-Memory, mit besonders großen Margen in herausfordernden Umgebungen wie Multi-Hop und zeitlicher Argumentation”, so die Forschung. Das System lieferte auch erhebliche Effizienzverbesserungen, wobei die Latenzzeit von Zeit zu erst zu 94% in bestimmten Konfigurationen durch seinen innovativen KV-Cache-Speicher-Injektionsmechanismus verringert wurde.
Diese Leistungsgewinne legen nahe, dass der Speicher Engpass eine bedeutendere Einschränkung war als bisher verstanden. Durch die Behandlung von Speicher als erstklassige Rechenressource, Memos Scheint zu den Argumentationsfunktionen zu entsperren, die zuvor durch architektonische Einschränkungen eingeschränkt wurden.
Die Technologie könnte umgestalten, wie Unternehmen künstliche Intelligenz einsetzen
Die Auswirkungen auf den Einsatz von Unternehmen können transformativ sein, insbesondere wenn Unternehmen zunehmend auf KI -Systeme für komplexe, fortlaufende Beziehungen zu Kunden und Mitarbeitern angewiesen sind. Memos ermöglicht, was die Forscher als “als” als “plattformübergreifende Speichermigration„Erlauben Sie, KI -Erinnerungen auf verschiedenen Plattformen und Geräten tragbar zu sein und das zu brechen, was sie nennen.“Gedächtnisinseln”Das fällt derzeit den Benutzerkontext in bestimmten Anwendungen ein.
Betrachten Sie die aktuelle Frustration, die viele Benutzer erleben, wenn Insights in einer KI -Plattform nicht auf eine andere übertragen werden kann. Ein Marketing -Team kann durch Gespräche mit ChatGPT detaillierte Kundenpersonas entwickeln, um bei der Umstellung auf ein anderes KI -Tool für die Planung von Kampagnen von vorne zu beginnen. Memos adressiert dies, indem er ein standardisiertes Speicherformat erstellt, das sich zwischen Systemen bewegen kann.
Die Forschung beschreibt auch das Potenzial “Bezahlte Speichermodule“Wo Domain -Experten ihr Wissen in kaufbare Gedächtniseinheiten verpacken könnten. Die Forscher stellen Szenarien vor, in denen„ ein Medizinstudent in klinischer Rotation untersuchen möchte, wie man eine seltene Autoimmunerkrankung verwaltet. Ein erfahrener Arzt kann diagnostische Heuristiken, Fragestellen und typische Gehäusemuster in einen strukturierten Speicher einkapseln “, der von anderen KI -Systemen installiert und verwendet werden kann.
Dieses Marktmodell könnte grundlegend verändern, wie spezielles Wissen in KI-Systemen verteilt und monetarisiert wird, wodurch neue wirtschaftliche Möglichkeiten für Experten geschaffen werden und gleichzeitig der Zugang zu qualitativ hochwertigem Domänenwissen demokratisieren. Für Unternehmen könnte dies bedeuten, dass KI -Systeme mit tiefem Fachwissen in bestimmten Bereichen ohne die traditionellen Kosten und Zeitpläne im Zusammenhang mit maßgeschneiderten Schulungen eingesetzt werden.
Dreischichtiger Design spiegelt traditionelle Computerbetriebssysteme wider
Der Technische Architektur der Memos spiegelt jahrzehntelange Lernen aus dem traditionellen Betriebssystemdesign wider und ist für die einzigartigen Herausforderungen des KI -Speichermanagements angepasst. Das System verwendet eine dreischichtige Architektur: eine Schnittstellenschicht für API-Aufrufe, eine Betriebsschicht für Speicherplanung und Lebenszyklusmanagement sowie eine Infrastrukturschicht für Speicherung und Governance.
Das System Memschenscheduler Die Komponente verwaltet dynamisch verschiedene Arten von Speicher – von temporären Aktivierungszuständen bis hin zu dauerhaften Parametermodifikationen – Auswahl optimaler Speicher- und Abrufstrategien basierend auf Nutzungsmustern und Aufgabenanforderungen. Dies stellt eine signifikante Abweichung von aktuellen Ansätzen dar, die das Gedächtnis typischerweise entweder als vollständig statisch (eingebettet in Modellparameter) oder vollständig kurzlebig (begrenzt auf Konversationskontext) behandeln.
„Der Fokus verlagert sich von der Art und Weise, wie viel Wissen das Modell einmal lernt, ob es die Erfahrung in ein strukturiertes Gedächtnis verwandeln und es wiederholt abrufen und rekonstruieren kann“, so die Forscher beschreiben ihre Vision für das, was sie nennen “Memtraining”Paradigmen. Diese architektonische Philosophie legt ein grundlegendes Überdenken darüber nahe, wie KI-Systeme entworfen werden sollten und sich vom aktuellen Paradigma der massiven Vorausbildung in Richtung dynamischeres, erfahrungsgetriebenes Lernen abziehen.
Die Parallelen zur Entwicklung des Betriebssystems sind auffällig. So wie frühe Computer die Programmierer aufforderte, die Speicherzuweisung manuell zu verwalten, verlangen aktuelle KI -Systeme, dass Entwickler sorgfältig orchestrieren, wie die Information zwischen verschiedenen Komponenten fließt. Memos Abstracts diese Komplexität und ermöglicht möglicherweise eine neue Generation von AI -Anwendungen, die auf dem ausgefeilten Speichermanagement aufgebaut werden können, ohne ein tiefes technisches Fachwissen zu erfordern.
Die Forscher veröffentlichen Code als Open Source, um die Adoption zu beschleunigen
Das Team hat veröffentlicht Memos Als Open-Source-Projekt mit Voller Code, der auf GitHub verfügbar ist und Integrationsunterstützung für wichtige KI -Plattformen wie Huggingface, Openai und Ollama. Diese Open-Source-Strategie scheint die Akzeptanz zu beschleunigen und die Entwicklung der Gemeinschaft zu fördern, anstatt einen proprietären Ansatz zu verfolgen, der die weit verbreitete Umsetzung einschränken könnte.
„Wir hoffen, dass Memos die KI-Systeme von statischen Generatoren zu kontinuierlich weiterentwickelnden, speicherorientierten Wirkstoffen weiterentwickeln“, kommentierte Project-Lead Zhiyu Li im Github-Repository. Das System unterstützt derzeit Linux -Plattformen, wobei Windows und MacOS -Unterstützung geplant sind, und schlägt vor, dass das Team die Einführung von Unternehmen und Entwicklern vor der sofortigen Zugänglichkeit der Verbraucher priorisiert.
Die Open-Source-Release-Strategie spiegelt einen umfassenderen Trend in der AI-Forschung wider, bei dem Verbesserungen der grundlegenden Infrastruktur offen geteilt werden, um dem gesamten Ökosystem zugute. Dieser Ansatz hat die Innovation in Bereichen wie Deep Learning Frameworks historisch beschleunigt und kann ähnliche Auswirkungen auf das Gedächtnismanagement in KI -Systemen haben.
Tech -Riesen reiten sich um die Lösung von KI -Speicherbeschränkungen
Die Forschung kommt, als sich große KI -Unternehmen mit den Einschränkungen aktueller Gedächtnisansätze auseinandersetzen und hervorheben, wie grundlegend diese Herausforderung für die Branche geworden ist. Openai kürzlich eingeführt Speicherfunktionen für Chatgptwährend AnthropischAnwesend Googleund andere Anbieter haben mit verschiedenen Formen des anhaltenden Kontextes experimentiert. Diese Implementierungen waren jedoch im Allgemeinen begrenzt und fehlt häufig der systematische Ansatz, der Memos bietet.
Der Zeitpunkt dieser Forschung legt nahe, dass das Gedächtnismanagement ein kritisches Wettbewerbsbahnen in der KI -Entwicklung entwickelt hat. Unternehmen, die das Speicherproblem effektiv lösen können, können erhebliche Vorteile bei der Bindung und Zufriedenheit der Benutzer erzielen, da ihre KI -Systeme im Laufe der Zeit tiefere und nützliche Beziehungen aufbauen können.
Branchenbeobachter haben lange vorausgesagt, dass der nächste große Durchbruch in der KI nicht unbedingt aus größeren Modellen oder mehr Trainingsdaten stammen würde, sondern aus architektonischen Innovationen, die die kognitiven Fähigkeiten der Menschen besser imitieren. Die Speicherverwaltung repräsentiert genau diese Art von grundlegendem Fortschritt – eine, die neue Anwendungen und Anwendungsfälle freischalten könnte, die mit aktuellen staatenlosen Systemen nicht möglich sind.
Die Entwicklung stellt einen Teil einer breiteren Veränderung der KI -Forschung zu staatlicheren, anhaltenden Systemen dar, die im Laufe der Zeit Wissen ansammeln und weiterentwickeln können – Fähigkeiten, die als wesentlich für künstliche allgemeine Intelligenz angesehen werden. Für Unternehmenstechnologieführer, die KI -Implementierungen bewerten, Memos könnte einen signifikanten Fortschritt beim Aufbau von KI -Systemen darstellen, die den Kontext aufrechterhalten und sich im Laufe der Zeit verbessern, anstatt jede Wechselwirkung als isoliert zu behandeln.
Das Forschungsteam gibt an, dass sie vorhaben, die gemeinsame Verbreitung von Gedächtnisblöcken, die sich selbst entwickelnden Gedächtnisblöcke und die Entwicklung eines breiteren „Gedächtnismarkt“ -ökosystems in zukünftigen Arbeiten zu untersuchen. Die vielleicht bedeutendsten Auswirkungen von Memos werden jedoch nicht die spezifische technische Implementierung sein, sondern der Beweis, dass die Behandlung von Speicher als erstklassige Rechenressource dramatische Verbesserungen der KI-Funktionen erschließen kann. In einer Branche, die sich größtenteils auf die Größe des Modells und die Schulungsdaten konzentriert hat, schlägt Memos vor, dass der nächste Durchbruch eher aus einer besseren Architektur als von größeren Computern ausgeht.
