Anthropic testet neue "Beta Steering"-API - neue Steuerungsmöglichkeiten für LLMs

Anthropic testet eine vollkommen neue Steuerungsmöglichkeit für LLMs. Das KI-Startup bietet Entwicklern Zugang zu seiner Beta Steering API, mit der die internen Funktionen von Sprachmodellen angepasst werden können. Die API basiert auf aktuellen Forschungsergebnissen zur Steuerbarkeit von Sprachmodellen. Durch die Verstärkung einzelner Konzepte in Modellen kann deren Generierung stark beeinflusst werden.

Interessierte Entwickler erhalten Zugriff auf eine Untermenge der internen Funktionen von Claude, Dokumentation, Beispielcode und eventuell einen Slack-Kanal zum Austausch mit dem Anthropic-Team. Im Gegenzug werden die Tester gebeten, ihre Projekte mit Anthropic zu teilen und Feedback zu geben. Die Technologie befindet sich noch im Forschungsstadium und ist nicht für den produktiven Einsatz vorgesehen. Anthropic betont, dass die API jederzeit verändert oder eingestellt werden kann.