Short

Wie nützlich sind Millionen-Kontextfenster wirklich? Nikolay Savinov von Google Deepmind erklärt, dass Sprachmodelle bei vielen Tokens im Kontextfenster mit einem Verteilungsproblem kämpfen: Mehr Aufmerksamkeit für ein Token bedeutet automatisch weniger für andere. Savinov rät daher, irrelevante Inhalte möglichst nicht in den Kontext aufzunehmen. Zwar sei es das Ziel, Modelle so zu verbessern, dass dieses Problem nicht mehr besteht. Aktuell sei es aber effizienter, den Kontext gezielt zu wählen.

Wenn man es [das Kontextfenster] im Moment gut nutzen will, dann sollte man realistisch sein. Man sollte einfach keine irrelevanten Kontexte einfügen.

Nikolay Savinov

Aktuelle Forschung bestätigt Savinovs Aussagen. In der Praxis bedeutet das beispielsweise, vor der KI-Verarbeitung Seiten aus einem PDF zu entfernen, die für die zu lösende Aufgabe irrelevant sind, auch wenn das KI-System das PDF als Ganzes akzeptiert.

Short

Bringt es etwas, danke und bitte zur KI zu sagen? Die Antwort gibt jetzt Murray Shanahan, leitender KI-Forscher bei Google Deepmind. Laut Shanahan kann höflicher Umgang mit Sprachmodellen zu besseren Antworten führen. Dazu gehöre, klar und freundlich zu formulieren und Worte wie "bitte" und "danke" zu verwenden, auch wenn es immer auf das Thema und das Modell ankäme.

Es gibt einen guten wissenschaftlichen Grund, warum das [höflich sein] zu einer besseren Leistung führen könnte [...]: Denn wenn es eine Rolle spielt, sagen wir, es spielt einen sehr klugen Praktikanten, dann wird es einfach die Rolle weiterspielen, vielleicht ein bisschen widerspenstiger sein, wenn es nicht höflich behandelt wird. Es ahmt einfach nach, was Menschen in diesem Szenario tun würden.

Murray Shanahan

Anzeige
Short

Anthropics Angestellte dürften bald ein gutes Stück reicher sein. Das KI-Startup bietet aktuellen und ehemaligen Mitarbeitenden, die mindestens zwei Jahre im Unternehmen tätig waren, an, bis zu 20 Prozent ihrer Anteile zu verkaufen – maximal zwei Millionen Dollar pro Person. Die Rückkäufe erfolgen zum aktuellen Unternehmenswert von 61,5 Milliarden Dollar, wie bereits bei der Finanzierungsrunde im März. Der Rückkauf in Höhe von mehreren hundert Millionen Dollar soll bis Monatsende abgeschlossen sein, berichtet The Information. Anthropic, gegründet von früheren OpenAI-Forschern, beschäftigt mittlerweile mehr als 800 Personen.

Short

Ein US-Richter in San Francisco zweifelt, ob Meta urheberrechtlich geschützte Bücher ohne Erlaubnis zur KI-Entwicklung nutzen darf. In einer Anhörung ging es um das Llama-Modell, das auf Werken wie denen von Sarah Silverman basiert. Meta beruft sich auf "Fair Use", die Kläger sprechen von Urheberrechtsverletzung. Zwar räumt US-Richter Vince Chhabria die Möglichkeit einer transformativen Datennutzung ein - fair sei diese jedoch nicht, da die daraus resultierende Technologie den Markt für die urheberrechtlich geschützten Werke überschwemmen könnte.

Sie haben Unternehmen, die urheberrechtlich geschütztes Material verwenden, um ein Produkt zu schaffen, das in der Lage ist, eine unendliche Anzahl konkurrierender Produkte zu erzeugen. Sie verändern damit den Markt für das Werk dieser Person dramatisch – man könnte sogar sagen, sie vernichten ihn –, und behaupten, dafür nicht einmal eine Lizenz zahlen zu müssen.

Anzeige
Short

Google integriert erstmals Werbung direkt in Unterhaltungen mit KI-Chatbots. Die AdSense-for-Search-Plattform wurde dafür auf Chatbots von Start-ups wie iAsk und Liner ausgeweitet, berichtet Bloomberg. Damit will Google seine Einnahmen trotz sinkender Suchanfragen sichern. Hintergrund ist die zunehmende Konkurrenz für die klassische Suche durch KI-Dienste wie OpenAI und Perplexity - oder auch Google selbst -, die Nutzern schnelle Antworten liefern und den Besuch klassischer Webseiten überflüssig machen könnten. Erste Tests des neuen Werbeformats sollen laut Bloomberg bereits seit 2024 stattfinden.

Anzeige
Google News