RaspberryPi AI

De Raspberry Pi 5 heeft allerlei leuke en nieuwe uitbreidingsmogelijkheden. Een daarvan is een AI-kit. Normaal gesproken kost het draaien van een AI-model veel rekenkracht. Daarom wordt er vaak gewerkt met videokaarten, omdat die die rekenkracht kunnen leveren. Het loont voor een consument of kleine zelfstandige dan vaak niet om zelf een AI-server op te zetten.

De Raspberry Pi heeft al jaren het imago dat het grote projecten kan draaien, en dat met beperkte hardware. De totale setup is ongeveer 10 x 7 x 4 cm. De AI-kit is nog steeds niet te vergelijken met de grote datacenters waar ChatGPT en soortgelijke diensten gebruik van maken. Toch is het goed mogelijk om een eigen AI-server op te zetten. Ik gebruik een RaspberryPi 5 met 8GB RAM, M.2 HAT+, en de Hailo-8L M.2 Entry-Level Acceleration Module.

Het wordt pas echt leuk met een camera, omdat de Hailo-8L de camera kan gebruiken. Zo is deze goed in te zetten voor bijvoorbeeld gezichtsherkenning, nummerplaat herkenning of als slimme beveiligingscamera. Handige toepassingen is bijvoorbeeld het bijhouden van het aantal bezoekers in een winkel, of het beveiligen van bepaalde objecten.