LLMs und LRMs – Dichter und Denker?
Das kürzlich publizierte Papier der Firma Apple „The Illusion of Thinking: Understanding the Strengths and Limitations of Reasoning Models via the Lens of Problem Complexity“ sagt aus, dass Ansätze zur Skalierung sogenannter Large Reasoning Models (LRMs) den in sie gesetzten Erwartungen nur eingeschränkt gerecht werden und – wie man dort empirisch zeigt – Limitierungen unterliegen. Eine zentrale Aussage der Autoren ist, dass auch in LRMs eine Skalierungsgrenze auftritt. Das „Reasoning“, also die künstliche Schlussfolgerung, steigere zwar bei mittlerer Komplexität der Aufgabe zunächst die Leistungsfähigkeit eines Large Language Models (LLMs), es büße jedoch mit zunehmender Problemkomplexität seine Vorteile wieder ein, selbst wenn genügend Tokens vorhanden sind, um hinreichend aufwendige Schlussketten zu ermöglichen.
