Dator för AI

Har hört att många börjat använda AI. Trodde först att det behövdes kraftfull dator men eftersom det tydligen är många som använder det kanske det inte är så? Jag är osäker. Har 4GB minne och cirka 2,5 Mhz. Behöver jag uppgradera?

Vad menar du egentligen?? Det är ju webbaserat??

Eller ska du köra det lokalt? Ja då behöver du en kraftfull dator lol

Antar du menar AI laptops, ja många av de har vad som heter en NPU. Testar visar dock på att denna sällan används och att datorn istället använder CPUn i de flesta fall. Dålig kod. Går att fixa men slarvigt dock väntat att det sker med första generationen.. En GPU däremot kan göra allt en NPU kan, så det är egentligen inget nytt det här. bara marknadsföring.

Så korta svaret är att du behöver bara en stark dator, och då pratar man också om att köra saker lokalt och inte i molnet.

Det låter också som du kan behöva uppdatera oavsett, väldigt gamla speccs.

Är det för att prova / leka med modeller hemma så föreslår jag den senaste modellen av Mac mini med mkt minne, eller om du är en som gillar att pilla själv så kan du slänga upp en ubuntu och stoppa in ett Nvidia kort , minst 4060 ti med 16GB minne, funkar OK för att köra lättare lösningar själv.

Sat Feb 15 22:50:43 2025
+---------------------------------------------------------------------------------------+
| NVIDIA-SMI 535.230.02 Driver Version: 535.230.02 CUDA Version: 12.2 |
|-----------------------------------------+----------------------+----------------------+
| GPU Name Persistence-M | Bus-Id Disp.A | Volatile Uncorr. ECC |
| Fan Temp Perf Pwr:Usage/Cap | Memory-Usage | GPU-Util Compute M. |
| | | MIG M. |
|=========================================+======= ===============+======================|
| 0 NVIDIA GeForce RTX 4060 Ti On | 00000000:01:00.0 Off | N/A |
| 0% 46C P8 14W / 165W | 245MiB / 16380MiB | 0% Default |
| | | N/A |
+-----------------------------------------+----------------------+----------------------+

+---------------------------------------------------------------------------------------+
| Processes: |
| GPU GI CI PID Type Process name GPU Memory |
| ID ID Usage |
|================================================= ======================================|
| 0 N/A N/A 1180 G /usr/lib/xorg/Xorg 9MiB |
| 0 N/A N/A 1310 G /usr/bin/gnome-shell 3MiB |
| 0 N/A N/A 2794 C /usr/local/bin/python 222MiB |
+---------------------------------------------------------------------------------------+