CARES: AI-systeem bespaart 80% rekenkracht bij visuele taalmodellen

Het bijzondere aan CARES is dat het getraind wordt als een discrete classifier die kiest uit verschillende vooraf gedefinieerde resoluties, maar tijdens gebruik kan het continue resoluties interpoleren voor fijnmazige controle.

Indrukwekkende resultaten

De onderzoekers testten CARES op vijf verschillende multimodale benchmarks, variërend van documentanalyse tot natuurlijke beelden. Het systeem werkt effectief met diverse doelmodellen en behoudt de prestaties terwijl het de rekenkracht met maximaal 80% vermindert.

Dit betekent dat organisaties die veel gebruikmaken van visuele AI-modellen aanzienlijk kunnen besparen op cloudkosten en energie, terwijl de kwaliteit van de resultaten gelijk blijft.

Technische innovatie

Wat CARES onderscheidt van andere optimalisatiemethoden is de context-bewuste aanpak. In plaats van een vaste resolutie te kiezen voor alle taken, analyseert het systeem de specifieke combinatie van afbeelding en vraag om de optimale resolutie te bepalen.

Deze aanpak is vooral waardevol omdat verschillende taken inderdaad verschillende resoluties vereisen. Tekstherkenning in documenten heeft bijvoorbeeld hoge resolutie nodig, terwijl het identificeren van grote objecten in foto's vaak kan met lagere resoluties.

Betekenis voor de industrie

De ontwikkeling van CARES komt op een cruciaal moment. Terwijl visuele taalmodellen steeds populairder worden in bedrijfsapplicaties, worden de kosten voor het uitvoeren van deze modellen een belangrijke zorg. Dit systeem biedt een praktische oplossing die direct kan worden toegepast op bestaande modellen.

Voor ontwikkelaars en bedrijven betekent dit dat ze krachtige visuele AI kunnen blijven gebruiken zonder de hoge kosten die er normaal gesproken bij komen kijken. Vooral voor organisaties die veel afbeeldingen verwerken, kan dit een game-changer zijn.

De onderzoeksresultaten zijn gepubliceerd op arXiv en tonen aan dat intelligente preprocessing een effectieve strategie is voor het optimaliseren van AI-systemen.