Ungleichheit

In den letz­ten Tagen habe ich mich auch, zum ers­ten Mal etwas tie­fer, mit den loka­len LLM aus­ein­an­der­ge­setzt. Mein Lap­top ist zwar nun schon etwas älter, hat kei­nen total für Infe­renz hoch­ge­züch­te­ten Pro­zes­sor, aber ich fin­de es trotz­dem schon beein­dru­ckend, was für Din­ge damit alle mög­lich sind.

Und beein­druckt war ich auch von den Open Weights Model­len, die man von Web­sites ein­fach her­un­ter­la­den kann. Was mir nur dar­an klar gewor­den ist: sie haben gegen­über den SaaS-Model­len immer einen ent­schei­den­den Nach­teil. Anbie­ter wie Ope­nAI, Anthro­pic, Meta oder Goog­le haben allei­ne durch die Archi­tek­tur der Sys­te­me einen umso grö­ße­ren Strom an Trai­nings­da­ten, je mehr Men­schen ihre Sys­te­me ver­wen­den – wenn ande­re Sys­te­me die Kom­mu­ni­ka­ti­ons­part­ner sind, wird es natür­lich was schwie­ri­ger. Das heißt, dass die Open Weights-Model­le, solan­ge sich nicht die Daten­ge­win­nung für sie ändern kann, immer einen bis drei Sch­rit­ter hin­ter­her sind.

Es wird also zu schau­en sein, ab wann die­se paar Schrit­te ein­fach hin­zu­neh­men sind, weil die ande­ren Vor­tei­le über­wie­gen. Sobald man sich von einer unte­ren Schran­ke in der Qua­li­tät ver­si­chert hat und damit die gege­be­nen Anfor­de­run­gen gut abge­deckt sind, wird ein Umstieg möglich.

Es wer­den sicher span­nen­de zwei bis drei Jahre.