Not your hardware, not your AI: AI computer ‘Ghost’ haalt $11M op om AI lokaal te draaien
Elke dag weer nestelt AI zich verder in het dagelijks leven. En inmiddels zul jij vast ook al opgemerkt hebben dat zoekmachines zoals Google langzamerhand vervangen worden door LLMs (large language models) als ChatGPT en Claude. Zoeken gaat sneller, is makkelijker en je resultaten zijn er vaker beter. Maar, waar draait die AI eigenlijk? En waar wordt al die (persoonlijke) informatie die je geeft opgeslagen? Nou, die informatie bevindt zich in de cloud, ofwel op de servers van grote (Amerikaanse) techbedrijven zoals OpenAI, Meta, Google en meer. Dus al jouw vragen, documenten en persoonlijke gegevens die je, uiteraard vrijwillig, deelt belanden bij hen.. Hier wil Ghost, de maker van de Ghost AI computer, verandering in brengen: zij willen met hun gloednieuwe AI computer artificial intelligence lokaal op een eigen computer laten draaien.
Voor onze lezers die veelal bekend zijn met Bitcoin en crypto is inmiddels één ding duidelijk: not your keys, not your coins. En inmiddels geldt eenzelfde soort principe voor AI: not your hardware, not your AI, zullen we maar zeggen. Alle data die jij deelt met openbare AI modellen, komen in andermans handen terecht. Maar met een eigen AI computer is dat verleden tijd: je kunt thuis namelijk AI agents, data, geheugen etc. lokaal bewaren en aan het werk zetten op een eigen computer!
Hoe werkt de AI computer van Ghost precies?
Deze gloednieuwe AI computer van Ghost heet ‘Core’ en kost zo’n $3.500. En even voor de goede orde: een MacBook Pro met een M5 chip kost inmiddels ongeveer hetzelfde. Echter, de Ghost computer is een soort doos met daarin een chip van Nvidia en komt zonder scherm. De computer is via een app op je telefoon of met je stem te bedienen. Op de computer staan al drie AI modellen, waaronder Qwen en Gemma. En mocht je andere modellen willen gebruiken, dan kun je die gewoon downloaden via Hugging Face. Het grootste voordeel van deze computer is dus dat alles lokaal draait en al je persoonlijke gegevens versleuteld worden opgeslagen op het apparaat zelf, niet in de cloud. Zelfs Ghost kan niet bij jouw gegevens, en deze manier van ‘werken’ is zeer vergelijkbaar met een hoe non-custodial crypto wallet werkt.
Goed, een AI agent die jij 24/7 aan het werk zet heeft wel toegang nodig tot je accounts. En zodra een agent kan inloggen bij je email, kan die feitelijk ook inloggen bij een crypto exchange. Gelukkig heeft Ghost daar een oplossing voor: het werkt namelijk aan een firewall die elk uitgaand verzoek controleert, en probeert de agent iets wat niet mag of probeert het data te lekken, dan wordt dat direct geblokkeerd en krijg jij een melding. Bovendien bepaal jij uiteraard zelf hoeveel vrijheid je de agent wil geven.
Wordt ‘lokale’ AI de nieuwe standaard?
Wat ons betreft past Ghost perfect in een duidelijke opkomende trend: steeds meer mensen willen namelijk zelf hun AI (data) in handen hebben, net zoals Bitcoiners hun eigen BTC ook zelf willen beheren. En aangezien AI agents steeds meer kunnen, zoals betalen bijvoorbeeld, wordt het belangrijk om hen beter te kunnen controleren.
Goed, of de AI computer van Ghost het eindstation is, weten we niet. Maar dat het bedrijf een duidelijke richting aan de industrie geeft, moge duidelijk zijn!