Я собрал мощный игровой ПК исключительно для запуска моделей ИИ. Вот почему.

Когда речь заходит об ИИ, на ум приходят ChatGPT или Gemini . Есть и другие игроки, такие как Perplexity , Claude , Grok и Mistral. На этом бурно развивающемся рынке существует множество моделей ИИ, многие из которых даже не требуют подключения к интернету.

Модели, работающие без подключения к интернету, называются локальными моделями ИИ, и, как следует из названия, их можно запускать на вашем собственном оборудовании. Для использования этих версий ChatGPT или Gemini не требуется подключение к серверам OpenAI или Google.

Это имеет как преимущества, так и недостатки. Главное преимущество — конфиденциальность. С помощью локального ИИ вы можете анализировать конфиденциальные документы или задавать ему неудобные вопросы, не беспокоясь о том, что за вами следят крупные технологические гиганты. Кроме того, его возможности безграничны. Пока у вас есть электроэнергия, вы можете продолжать задавать вопросы, по крайней мере, пока не закончится память.

Я решил собрать максимально мощный ПК на минимально доступном оборудовании. Можно ли было бы использовать более мощную серверную материнскую плату, которая могла бы работать с гораздо большим объёмом оперативной памяти? Конечно. Но сомневаюсь, что большинство людей стали бы использовать ИИ дома или в малом бизнесе именно так. По сути, я выбрал эквивалент мощного и компактного игрового ПК . Вот характеристики и примерная розничная стоимость:

• AMD Ryzen 9 9950X3D ($660)
• Nvidia RTX 5090 (2400 долларов США)
• Материнская плата MSI MPG B650I Edge Wi-Fi ($290)
• 64 ГБ оперативной памяти Crucial Pro DDR5 ($140)
• 2 твердотельных накопителя Crucial Gen5 NVMe емкостью 1 ТБ (по 150 долл. США каждый)
• Блок питания Corsair SF1000 (270 долларов США)
• Корпус Fractal Design Terra объемом 10,4 литра ($180)

При общей стоимости в 4240 долларов это дорогостоящее оборудование. Но для некоторых из этих локальных моделей ИИ требуются мощные ресурсы. Не всем моделям требуется такое дорогостоящее оборудование. Существуют модели меньшего размера, которые работают действительно хорошо и могут работать на довольно мощном ноутбуке. К ним относится новая платформа OpenAI GPT-OSS , которая, по сути, является локальной версией ChatGPT.

Я считаю, что со временем самые мощные модели станут эффективнее. Так что, возможно, энергоёмкая версия DeepSeek R1 , выпущенная в 2025 году, сможет работать на более скромном оборудовании в 2027 году.