Daenur

х*и
я пробовал катать не эту лабуду, а просто 2х4060, 2х5060. в итоге спарка двух карт у меня проигрывала 4080 и 5090 под ml-задачки, и с кодом я заманался

четыре карты в спарке это специализированная мать, до такого дома пока не дошел

поэтому для домашнего ml у тебя обычно 2 кудахтера: модельки шлифуются 24*7 на компе с 4060/5060, розрободка-прототипы-проверка гениальных мыслей на 5090

параллельно откладываются деньги на проф карту

Тут то как раз ничего удивительного. Даже если просто теоретическую производительность сравнить:

                4060ti  4090
FP32, TFLOPS	11.24	73.07
FP64, TFLOPS	0.175	1.142
FP16, TFLOPS	11.24	73.07

+ обмен через PCIe
+ k масштабирования для самой модели
У меня выходит 0.7-0.8, что наверное даже и неплохо.
Что там в этом вашем ml не знаю, но тоже далеко не единица.

Разница рисуется драматическая.

add

параллельно откладываются деньги на проф карту

h100 сейчас стоит 1.5-2kk.
Там в ценник зашита часть той прибыли, которую ты получишь эксплуатируя карту.
Хз хз. Дело конечно хозяйское. Но экономикой в быту я бы не стал пренебрегать.

Хобби. Считаю всякое, вроде погоды на Марсе => Обмен с памятью узкое место => Быстрой памяти много не бывает.

Собственно, искал варианты обновить рабочую машину, а наткнулся на это. Видимо, опять обновлю числодробилку)

 ....

 Что касается ФСИН - то там вдобавок ко всему, еще и не очень располагающая обстановка для экспериментов с "зонтиками" из фольги и прочими приспособлениями.

Зря так думаешь. Бардака не меньше, чем везде.
В конце концов телефонам тоже там взяться неоткуда. В теории.

А в остальном - байка. Может правда, может нет. Так я к этому и отношусь)

И да и нет.

Вроде как через nvlink объединяет в сборку с общей видеопамятью пару таких модулей

Click

Но смущает, что это лютый самопал, почище какого-нить хуанана.

ЗЫ
На GPU еще майнят? Мне казалось давно уже невыгодно.

на случай, если в доме будет плохо ловить вайфай

картинка

Хех. Как-то слышал байку от знакомого из ФСИН, что его поднадзорные жулики из фольги от шоколадок соорудили экран против GSM глушилки.