Wat is AI op het apparaat en hoe werkt het?

Belangrijkste leerpunten

• On-device AI verwijst naar mogelijkheden voor kunstmatige intelligentie die lokaal op een apparaat draaien zonder verbinding met internet, waardoor privacy en snellere verwerking worden geboden.
• Met AI op het apparaat kunnen smartphones indrukwekkende taken uitvoeren, zoals het snel genereren van afbeeldingen, het bieden van gepersonaliseerde AI-assistenten en het verbeteren van de grafische weergave en audiokwaliteit van games.
• Bedrijven als Qualcomm integreren gespecialiseerde hardware in hun apparaten om de AI op het apparaat te optimaliseren prestaties en biedt geavanceerde mogelijkheden zoals intelligente assistenten, realtime vertaling en geautomatiseerde vertalingen fotobewerking.

Van chatbots tot zelfrijdende auto’s: AI transformeert het technologielandschap. Eén gebied waarop de adoptie van AI snel versnelt, is op consumentenapparaten zoals smartphones. Techgiganten racen om AI-mogelijkheden op apparaten te integreren in hun nieuwste hardware en software.

Maar wat is AI op het apparaat precies en hoe werkt het?

Wat AI op het apparaat is en hoe het werkt

Tegenwoordig wordt de meeste consumenten-AI aangedreven door enorme datasets die in de cloud zijn opgeslagen. Echter, het uploaden van persoonlijke gegevens naar AI-servers is niet goed voor de privacy. Dat is waar AI op het apparaat van pas komt.

On-device AI verwijst naar mogelijkheden voor kunstmatige intelligentie die lokaal op een apparaat draaien in plaats van in de cloud. Dit betekent dat de AI-verwerking rechtstreeks op uw telefoon, tablet of ander apparaat plaatsvindt, zonder verbinding met internet.

Zo werkt het onder de motorkap: AI-modellen houden van Stabiele verspreiding, DALLE-E, middenreis, enz., worden getraind in de cloud en gebruiken daarbij veel data en rekenkracht. Deze modellen worden vervolgens geoptimaliseerd om efficiënt op de doelapparaten te werken. De geoptimaliseerde AI-modellen worden ingebed in apps en gedownload naar het apparaat van elke gebruiker. De app-gegevens blijven geïsoleerd in een beveiligde enclave.

Wanneer de app een taak moet uitvoeren, zoals het herkennen van een geluid of het identificeren van een object op een foto, voert hij het AI-model lokaal uit met behulp van de ingebouwde CPU of GPU van het apparaat. Het AI-model verwerkt de invoergegevens en genereert een uitvoervoorspelling of resultaat zonder gegevens extern te verzenden.

Dit gebeurt allemaal volledig op uw apparaat, waardoor uw interacties privé blijven.

Hoe AI op het apparaat u ten goede kan komen

On-device AI zorgt voor indrukwekkende mogelijkheden op uw apparaat. Dit omvat het snel genereren van afbeeldingen met behulp van modellen als Stable Diffusion, waarbij afbeeldingen binnen enkele seconden kunnen worden gemaakt, wat razendsnel is. Dit kan geweldig zijn als u snel afbeeldingen en achtergronden voor uw berichten op sociale media wilt maken. En omdat deze lokaal worden verwerkt, blijven uw afbeeldingsprompts privé.

Een AI-assistent kan ook lokaal worden aangestuurd en biedt een persoonlijke ervaring op basis van uw gegevens en voorkeuren, zoals favoriete activiteiten en fitnessniveaus. Het kan natuurlijke taal begrijpen voor taken zoals foto- en videobewerking. U kunt bijvoorbeeld 'verwijder de persoon aan de linkerkant' zeggen om een ​​afbeelding direct te bewerken.

Voor fotografie kan AI op het apparaat functies inschakelen zoals het uitbreiden van afbeeldingsranden (vergelijkbaar met De vulfunctie van Photoshop), waarbij gelijktijdige camera's aan de voor- en achterkant worden gebruikt voor video-effecten, en verschillende lagen onafhankelijk worden bewerkt.

Gaming-graphics kunnen ook profiteren van AI op het apparaat door de resolutie op te schalen tot 8K, de ray tracing te versnellen voor realistische verlichting en de framerates efficiënt te verdubbelen. Wat audio betreft, kan AI op het apparaat realtime audiosynchronisatie mogelijk maken, zodat uw audio van video's en games nooit uit de pas loopt. Het zorgt ook voor kristalheldere gesprekken en muziek, zelfs als u een andere kamer binnenloopt.

Over het geheel genomen sluit AI op het apparaat aan bij wat veel gebruikers willen: snelle resultaten en privacy, omdat de verwerking meer lokaal gebeurt in plaats van in de cloud.

AI op het apparaat zorgt voor snellere en meer persoonlijke AI-ervaringen

AI op het apparaat is behoorlijk netjes. Het zorgt ervoor dat onze telefoons en andere gadgets geavanceerde AI-algoritmen lokaal kunnen uitvoeren zonder verbinding te hoeven maken met de cloud en zonder vertraging.

Bedrijven als Qualcomm voorzien hun nieuwste chips al van gespecialiseerde hardware om neurale netwerken efficiënt op onze apparaten te laten draaien. Qualcomm's Snapdragon 8 Gen 3 ondersteunt bijvoorbeeld tot 24 GB (op een smartphone!), heeft geïntegreerde ondersteuning voor Stable Diffusion en Llama 2, en maakt gebruik van Qualcomm's AI Stack om momenteel de beste AI-prestaties op het apparaat te leveren tijd.

Verwacht dus bij elke nieuwe generatie smartphones nog krachtigere AI-mogelijkheden op het apparaat voor zaken als intelligente assistenten, realtime vertaling, geautomatiseerde fotobewerking en razendsnel generatief AI-beeld generatie.