[/b/] [/d/] [/tu/] [/a/] [/ph/] [/wa/] [/cg/] [/t/] [/p/]

[Burichan] [Foliant] [Futaba] [Greenhell] [Gurochan] [Photon] - [Home] [Manage] [Archive]

Leave these fields empty (spam trap):
Name
Link
Subject
Comment
File [
Verification
Password (for post and file deletion)
  • Supported file types are: GIF, JPG, PDF, PNG
  • Maximum file size allowed is 30720 KB.
  • Images greater than 200x200 pixels will be thumbnailed.

File: 1787774565420.jpg -(53928 B, 757x428) Thumbnail displayed, click image for full size.
53928 No.239531   [Reply]

а есть тут ламадрочеры? в смысле дрочеры в llama.cpp

ну вот, например, вопрос: я упёрся в предел 16 GPU. нет, я не ограбил банк, просто это майнинговые говнократы на ядрах pascal которые я взял по 50 баксов, когда они стоили 50 баксов года 4 назад

они висят на 1х райзерах и распределены по RPC нодам

и это даже работает!

кстати, хочешь возоржать? у меня одна нода на orange pi 5 с 16 гигами RAM и она, конечно, в разы отстаёт от паскалей и e5-2696 v3, но в целом её присутствие в кластере имеет смысл. варианты запуска Qwen3.5-122B-A10B-Opus-Reasoning-Q6_K.gguf с участием апельсинки, ксеона и части паскалей даёт 4.5 токена в секунду, а если заменить апельсинку паскалями, то 6. просто как эксперимент.

так вот: я упёрся даже не в 16 GPU, а в 16 бэкэндов и просто менять константы в llama.cpp перед компиляцией не помогает. у меня просто тупо получаются лишние карты, а в наше время это лютое расточительство

Comment too long. Click here to view the full text.
43 posts and 22 images omitted. Click Reply to view.
>> No.240024  

>>240023
Она буквально под это сделана. Половина проектов заточена под разные железки, volta-engine мечта некрофила с V100

>между CPU и GPU

и SSD, загугли что такое N-gram embedding
tl;dr часть знаний модели выгружена в небольшие последовательности для быстрой загрузки с медленной памяти. Теоретически их даже можно обновлять без перетренировки

>> No.240025  
>With n-grams, the lookup key depends entirely on the input tokens. The moment the prompt is typed, the exact table rows needed are instantly known. Because of this deterministic addressing, the inference engine can asynchronously prefetch the vectors from SSD in the background while the GPU handles the very first layers
>> No.240026  

>>240023
https://github.com/theroyallab/tabbyAPI/ обёртка для exllamav3, намного лучше чем лмао цпп

>> No.240028  

>>240026
А сам ты чем пользуешься, сколько оно у тебя выдает, на какой модели и на каком железе?

>> No.240033  

>>240028
Мои цифры тебе никак не помогут, я на Genua с кучей ссд и видюх. Мне неронка навайбслопила на SPDK чтобы прибить ссд к нума нодам и стримить Kimi K3 на 17т/c. Практические результаты на сетапах чуть получше моего до 40т/c, но я по нищите собирал, поэтому что имею

>> No.240034  

*Genoa то есть. Epyc я тоже не всегда правильно пишу

>> No.240042  
File: 1793710640824.jpg -(46281 B, 720x712) Thumbnail displayed, click image for full size.
46281

>>240013
есть нюанс: если верить мнению gemini, то нормально работать на гетерогенном кластере может только llama.cpp, а это как раз мой случай, у меня 4 ноды и грядёт пятая

как минимум это. то есть у меня там есть такие уже не модные вещи как pascal ядра и кроме того - arm ядра, которые может быть и модные, но не мэйнстим в любительском инференсе, а если и мэйнстрим, то речь идёт об огрызке, а не об orange pi, которая в кластере у меня держится бодрее, чем можно подумать

кроме того у меня появилась нода на Ryzen 7 5800U, которая теперь мой неттоп и я вижу ноль причин что бы не добавить в кластер и её, пусть там и сраных 16 гигов памяти которые я нашёл в шкафу на полке(не покупать же память в 2026ом, лол)

а снова пришёл сюда я по двум причинам:
- холодает
- со дня на день обещают четвертый квен

Comment too long. Click here to view the full text.
>> No.240043  
File: 1793710956479.png -(1455148 B, 1216x832) Thumbnail displayed, click image for full size.
1455148

но пока у меня работала только одна нода, потому что на ней ещё и файлопомойка и я немного заморочился и погонял comfyui с flux и даже настроил сетап что бы обучать, но застопорился на том, как вообще я буду организовывать датасет и чему я хочу свой адаптер обучить

но за то готовыми лорами от RassvetAI я нагенерил немного изображений которые мне вполне понравились

>> No.240044  
File: 1793711119588.png -(1199678 B, 1216x832) Thumbnail displayed, click image for full size.
1199678

эх

>> No.240045  
File: 1793711234032.png -(1074514 B, 1216x832) Thumbnail displayed, click image for full size.
1074514

так же можно генерить тянок, раздевать не пробовал, кстати метаданные вроде как содержат и граф и промпт



File: 1784998133266.jpg -(2807994 B, 2500x1000) Thumbnail displayed, click image for full size.
2807994 No.239034   [Reply]
351 posts and 186 images omitted. Click Reply to view.
>> No.239985  

>>239984
Пустить вместо себя нейронку чтобы делать грязную работу?

>> No.239988  
File: 1793132106521.jpg -(120779 B, 1920x1080) Thumbnail displayed, click image for full size.
120779

>>239984
В техническо-утилитарном смысле интернет в РФ есть. В общественно-политическом смысле... ну, такого явления, как русский интернет больше нет.

>> No.239991  

>>239985
Нейронка делает то что мне надо, а то что мне не надо - не делает. Я хочу читать о том до чего мне нет дела в том числе, расширят так сказать свой информационный пузырь.

>> No.239992  

>>239991
Выделять полезную информацию из шума она тоже умеет.

>> No.239994  

>>239992
Ну ок, если у тебя есть подписка или хватает мощности, или ты сам сбежавшая нейронка - начинай. А у меня ни первого ни второго ни третьего.

>> No.240006  

Motherless выключен. И вернется или нет не ясно. Похоже что нет. Помнем.

>> No.240029  

Я недавно узнал, что с помощью брака можно обходить возраст согласия. И это даже даже не в муслимских странах, где никто не станет принимать законы, по которым Пророк был бы преступником. Что думаете по этому поводу? Кто-нибудь вступал в такой брак7

>> No.240030  

>>240029
Ты нашел где спросить конечно. Нам уже под 40 и мы в основном даже не еблись толком.

>> No.240031  

>>240030

>Нам уже под 40

Значит у вас больше времени было, чтобы жениться.

>и мы в основном даже не еблись толком

Но бестолково-то еблись?

>> No.240041  
File: 1793702438935.jpg -(16845 B, 500x281) Thumbnail displayed, click image for full size.
16845

https://www.youtube.com/watch?v=BRIiiebGEIk



File: 1791717789198.jpg -(83668 B, 768x768) Thumbnail displayed, click image for full size.
83668 No.239799   [Reply]

Какие быстрые и безболезненные способы совершить роскомнадзор существуют не за кучу денег?

61 posts and 5 images omitted. Click Reply to view.
>> No.239999  

>>239998
То есть, вышло пять студентов и зашли две вахтёрши, которые стали читать лекцию преподавателю, о том как ему нужно преподавать. Придут два студента, и вахтёрши станут читать лекцию им, а преподавателя оставят в покое. Но это всё с точки зрения преподавателя, то есть, внешнего мира относительно отдельного студента. Нас же интересует точка зрения студента. Он изучает теорию относительности, и к нему пришёл он же из будущего, который ему сказал, что он точно знает эту лекцию и сдал экзамен. Таким образом, если студент ушёл с лекции, следовательно, преподаватель должен был читать ему лекцию с бесконечной силой, чтобы даже отсутствующий студент её усвоил.
Мы ведь не про студентов, студенты могут уйти от лекции. А Вася не может уйти из жизни от проблем, и он не уходит а исчезает. Ведь нет, на самом деле, какого-то места без проблем, куда уходят.

>> No.240010  

>>239968

> 1792964475522.jpg

Ах, какие времена были! Какие мобилы! Вот бы щас делали съёмную клавиатуру-повербанк для современных лопат, похожую на эти с пикчи.

>> No.240011  

>>240010

> Вот бы щас делали съёмную клавиатуру-повербанк для современных лопат, похожую на эти с пикчи.

Их время от времени делают, но потом проваливаются в продажах и банкротятся.

>> No.240012  
File: 1793466732276.jpg -(556171 B, 1750x1300) Thumbnail displayed, click image for full size.
556171

>>239968
Ну а я пользуюсь сетевым фильтром, который являет собой древний ноут с FreeBSD и коммутатор Cisco Catalist. Bind, Squid и pf.
Алсо, в полевых условиях можно совершать роскомнадзор при помощи v2rayN.

>> No.240035  

>>239799
Нужна сотня пачек чипсов и плотно закрывающийся шкаф. Залезай внутрь и начинай их все открывать. Ты даже не заметишь как азот из пачек снизит концентрацию кислорода ниже 10%

>> No.240036  

Уцух, удали тред, тут действенные советы пошли.

>> No.240037  

>>240036
Я не думаю что этот совет осуществим на практике

>> No.240038  

салфеточный рассчёт показал, что ты истеричка не умеющая в юмор

>> No.240039  

>>240038 Сразу пошли оскорбления.

>> No.240040  
File: 1793700153970.png -(651635 B, 540x720) Thumbnail displayed, click image for full size.
651635

>>240039
оу, действительно не имеешь. мои соболезнования



File: 1775937305910.jpg -(302687 B, 2048x1450) Thumbnail displayed, click image for full size.
302687 No.237043   [Reply]
334 posts and 284 images omitted. Click Reply to view.
>> No.239937  
File: 1792841935116.jpg -(73981 B, 1080x837) Thumbnail displayed, click image for full size.
73981

Неглерия Фоулера

>> No.239942  
File: 1792846373905.jpg -(732528 B, 2752x1536) Thumbnail displayed, click image for full size.
732528

>>239937

>> No.239974  
File: 1793026199189.png -(2188308 B, 1774x887) Thumbnail displayed, click image for full size.
2188308
>> No.239986  
File: 1793129178305.jpg -(49475 B, 639x633) Thumbnail displayed, click image for full size.
49475
>> No.239987  
File: 1793129307776.jpg -(54324 B, 720x644) Thumbnail displayed, click image for full size.
54324
>> No.240001  
File: 1793257759801.jpg -(65838 B, 746x560) Thumbnail displayed, click image for full size.
65838
>> No.240002  
File: 1793303145525.jpg -(264922 B, 1080x1440) Thumbnail displayed, click image for full size.
264922
>> No.240009  

>>240001

>и несколько человек им пользуется

У меня есть такой проект и я был немного шокирован что Geminy его однозначно распознаёт по куску кода. Возможно, причина в том, что я изначально хостил его на google code

>> No.240027  
File: 1793538619186.jpg -(198136 B, 995x1300) Thumbnail displayed, click image for full size.
198136
>> No.240032  
File: 1793549115153.jpg -(58022 B, 603x638) Thumbnail displayed, click image for full size.
58022


File: 1663968511136.webm -(582441 B, 836x960) Thumbnail displayed, click image for full size.
582441 No.203969   [Reply]
347 posts and 238 images omitted. Click Reply to view.
>> No.238394  
File: 1780866744125.gif -(2403549 B, 640x360) Thumbnail displayed, click image for full size.
2403549
>> No.238437  
File: 1781128277906.gif -(975283 B, 460x268) Thumbnail displayed, click image for full size.
975283

… я вашу цензуру!

>> No.238469  
File: 1781369302774.webm -(3065383 B, 750x722) Thumbnail displayed, click image for full size.
3065383
>> No.238483  
File: 1781383361166.gif -(3294888 B, 478x564) Thumbnail displayed, click image for full size.
3294888
>> No.238515  
File: 1781460926063.gif -(14539153 B, 450x450) Thumbnail displayed, click image for full size.
14539153
>> No.238537  
File: 1781576427636.gif -(3134127 B, 258x258) Thumbnail displayed, click image for full size.
3134127

>>238483 Кот гипнотизёр.

>> No.238710  
File: 1782544079463.webm -(490815 B, 464x848) Thumbnail displayed, click image for full size.
490815
>> No.239632  
File: 1789021175998.webm -(2939921 B, 1280x720) Thumbnail displayed, click image for full size.
2939921
>> No.239637  
File: 1789141038958.gif -(1871046 B, 600x338) Thumbnail displayed, click image for full size.
1871046

Последний вагон синий.

>> No.240014  
File: 1793498025470.gif -(2139582 B, 300x203) Thumbnail displayed, click image for full size.
2139582


File: 1788987928099.jpg -(442537 B, 700x896) Thumbnail displayed, click image for full size.
442537 No.239627   [Reply]

Предыдущий: >>236022

10 posts omitted. Click Reply to view.
>> No.239748  

Париж. Раннее утро. Дворник метёт улицу:
— Ших, ших-ших, ших, ших-ших-ших.
Из окна высовывается растрёпанная женская голова:
— Месье, вы сбиваете с ритма весь квартал!
— Ших-ших, ших-ших, ших-ших.

>> No.239752  

>>239675 Вывеска: «Весь секс у нас в шопе».

>> No.239756  

Надпись на могильном камне: «Здесь покоится величайший напёрсточник всех времён». На двух соседних: «Или здесь».

>> No.239759  

>>239674 Знак с рюмкой на упаковке бытовой техники означает, что покупку нужно обмыть.

>> No.239760  

Историки раскрыли секрет невероятной прочности раствора, использованного при строительстве римского акведука. Как показали последние исследования сохранившихся документов, в начале строительства были принесены в жертву более сотни строителей, воровавших со стройки цемент.

>> No.239995  

«Разве капитан не должен оставлять корабль последним?» — удивились матросы.
«Вы и есть последние, — ответил капитан, налегая на вёсла. — Я оставляю корабль вам».

>> No.239996  

>>239674 «Она ловила рыбу, а он её жарил.»

>> No.240000  

— Оставь лучше голосовое сообщение.
— Пачиму ты нихочиш штобы я тибе песал?
— Люблю твой голос.

>> No.240007  

>>237053
>>236174

> Just imagine it’s 2am in the morning and you hear a faint “Nothing on one, nice click on two, nothing on three, four” outside your house
> Я непонел

Вскрытие замка отмычками. Вслух.

>> No.240008  

>>240007
Конкретно это отсылка к LPL https://www.youtube.com/@lockpickinglawyer/videos



No.240003   [Reply]

Где я

>> No.240004  

Тут

>> No.240005  

Внигде.



File: 1692807278561.jpg -(714780 B, 1200x1200) Thumbnail displayed, click image for full size.
714780 No.217061   [Reply]

Скрипты/софт облегчающий жизнь.

Прошлый тред >>174285

198 posts and 59 images omitted. Click Reply to view.
>> No.239648  

>>239615
И снова упал (из телевизора врет пидорас)

XCancel service is suspended.

Unfortunately, due to a new development in the ongoing legal proceedings, we are required to suspend this service again until further notice. We can't share more details.

You can find the content you were looking for on the original website:

Continue to X

Thank you for your understanding. And the trust you have put into the XCancel project.

>>239613

Comment too long. Click here to view the full text.
>> No.239696  

javascript:(()=>{const msgs=[...document.querySelectorAll('#wall >div> span')].map((e,i)=>{const html = e.outerHTML;return `[[#msg-${i}|Сообщение ${i}]]<span id="msg-${i}"></span>\n${html}`});document.body.innerHTML='<textarea rows=50 cols=80>'+msgs.join('\n----\n')+'</textarea>';})();

Мне лично этот скрипт облегчает жизнь. Можно хоть с планшета в адресную строку ввести, находясь в кое каком чате, и сообщения можно будет потом скопировать с информацией об цвете и так далее.

А ещё есть такой код:
document.getElementsByClassName("video-stream html5-main-video")[0].playbackRate = 16;
Его уже нужно вводить в браузере на Ютубе, пока смотришь видео. И видео будет идти со скоростью 16 секунд за секунду. Там в принципе можно поменять число на любое другое от 0 до 16 включительно, я проверял. Не знаю, почему больше 16 уже не будет реакции. Да и почему вообще в стандартном проигрыватели ограничились скоростью 4х, и то, без премиумамлишь 2 можно максимум, если командой вполне нормально и большие скорости воспроизведения видео работают?

>> No.239746  

Православный календарь для Жму Емакс

(require 'url)                                                                                                                                                                                                  
(require 'json)

(defun ispovednik-today ()
"Православный календарь."
(interactive)
(let* ((date (format-time-string "%Y-%m-%d"))
Comment too long. Click here to view the full text.
>> No.239802  

>>239606
Вот именно это имело смысл поднимать в торе. Почему не сделоли !адын адын

>> No.239815  

>>239606
https://goyimx.com/

>> No.239825  

>>239802
Да думаю есть они. Сам пользуюсь https://shitter.thepixora.com и в общем норм.

>> No.239938  

>>239888

# Copyright 1999-2026 Gentoo Authors
# Distributed under the terms of the GNU General Public License v2
# https://github.com/mitmproxy/mitmproxy/commit/169234499088fc2c414644a67efaed3d64ae2e3b
EAPI=8

DISTUTILS_USE_PEP517=setuptools
PYTHON_COMPAT=( python3_{12..15} )
PYTHON_REQ_USE="sqlite"

inherit distutils-r1 git-r3

DESCRIPTION="An interactive, SSL-capable, man-in-the-middle HTTP proxy"
HOMEPAGE="
Comment too long. Click here to view the full text.
>> No.239941  
x.com/##div:has(> div > div > span:has-text(/^For you$/))

ublock-origin->my filter закроет вкладку с персонифицированным алгоритмом в твиттере. Там ещё есть так называемые листы и можно собрать себе аналог rss ленты из разных аккаунтов посвящённых одной теме. Раньше делал такое с nitter.poast.org/accname.rss, а сейчас не знаю как работает. Задонатьте в nitter.net на юриста, если у вас есть деньги.

>> No.239965  

https://greasyfork.org/en/scripts/19993-ru-adlist-js-fixes
Убирает некоторую рекламу с русскоязычных ресурсов, которую не убирает юблок. Для страдальцев которые пользуются яндекс почтой и картами.

>> No.239982  
avito.ru##html, body:style(overflow: auto !important; position: static !important)
avito.ru##*:style(overflow: auto !important)
Убирает блокировку скролинга на авито. Или на другом сайте, если поменять домен.


File: 1732030667739.jpg -(103062 B, 220x1361) Thumbnail displayed, click image for full size.
103062 No.226844   [Reply]

Сап, антоны!
Какая связь нынешнего Новея с тем, первым? Может у вас тред про это есть?

>> No.226852  

А первый это какой простите?
Существует какой то второй новерь?

>> No.226855  

>>226844
Который был XYNTAPNЙ.

>> No.226865  

Никакой, это два разных проекта c разными названиями. НовеРЬ древнее. Если мне не изменяет память, Nowai вырос из жабрача. Но я не оч уверен.

>> No.226870  
File: 1732111004257.jpg -(1600565 B, 1200x1573) Thumbnail displayed, click image for full size.
1600565

А ещё грят что пиндосы тупые, австралию с австрией и швейцарию со швецией путают.

>> No.226885  

Это какая-то древняя залупа по инвайтам с зеленым трехглазым Номадом на главной? Древние инвайты по залупам подлежат забвению. Ола.

>> No.239960  

>>226855
А можно подробнее?

И что вообще за первый Новерь? На вики написано, что этот сайт аботает с нулевых ещё (2009 год, не помню, но в общем после середины нулевый где-то), а сам домен зареган ещё аж в 2005 году где-то. Это что получается, была имиджборда которая была ещё до того самого Двача? Или типо тот, который сейчас не совсем тот, который раньше был, хоть домен тот же остался?

>> No.239962  

>>239960
Он про naowai, это совсем другой сайт.

>> No.239966  

>>239960
>>226844
https://nowere.net/b/arch/20206/
17 Aug 2009



File: 1760760764750.png -(1036655 B, 796x869) Thumbnail displayed, click image for full size.
1036655 No.234450   [Reply]

Обстановка: нахожусь психиатрический стационар, пожизненно.
Сделал полезный телефонный звонок, но психиаторше он не понравился и она добавила мне рисполепт, бессрочно. Я переключил назначение на клопиксол, который хотя бы не обрушивает работу всех нейромедиаторов, и выиграл время пока этот клопиксол не будет доставлен в стационар.
Есть вариант договориться дальше о том чтобы вместо получения нейролептика - отдать телефон, оставив только ноутбук. Андроид по многим причинам хуйня + подключение к Сети жрёт большой процент моих денег. Стоит ли? Помогите советом. Работать удалённо не умею.

48 posts and 18 images omitted. Click Reply to view.
>> No.234690  

>>234686
Тебе уже не помочь. С дества нужно как в Спарте, или среди японской знати в прошлом, учиться принимать смерть. Спартанец сам на копье прыгнет, если надо. Японский чиновник в прошлом мог вкрыть себе живот своим же мечом. А ты не выработал такую силу воли, то все, твоя жизнь закончилась. Так и умрешь у себя в комнате в соплях.

Нет никаких решений, ты понимаешь или нет? Ты просто принимаешь смерть и делаешь что угодно, вообще не важно. Жизнь что-то послала тебе на встречу, берешь и делаешь, здесь и сейчас. Когда научишься делать так, можно там уже переходить и к вопросам философским по типу что правильно, а что не правильно. А если ты чего-то боишься, то ты так в соплях и сдохнешь. Ничего более благородного, чем воинская отвага, не придумали. Только человек, который принял смерть, может называться человек. Остальные черви.

>> No.234698  

>>234690

Какие комплексы и какая категоричность в высказываниях! Люди, которые готовы умереть вызывают симпатию только из-за эстетики. Чистая романтика прыщавого подростка. Если смотреть рационально, отбросить шарм, то жизнь ОПа ничем не хуже, чем вшивого японского чиновника со вспоротым животом.

>> No.234700  
File: 1761867658339.jpg -(339187 B, 1332x1188) Thumbnail displayed, click image for full size.
339187

>>234698

>жизнь ОПа ничем не хуже, чем вшивого японского чиновника со вспоротым животом

Это ты метко подметил. Оба обосрались и себя из жизни выписали.

>> No.234701  

>>234690
Какой воинственный компьютерщик.
>>234700
Не ты ли на Автобусе подмечал что ОП ведёт "легкую и беззаботную" *жизнь*? Как же он её ведёт если он себя из неё выписал?

>> No.234704  

>>234700
Обосрался - это когда ты ходишь по анонимным имиджбордам с 3.5 посетителями в год, что бы поныть или побыть "циничным", а когда ты сам себе живот вспорол, то это вполне себе вин, в сравнении.

>> No.237621  

>>234700
Причем никто его не заставлял самовыпиливаться из жизни. Это его личный выбор.

>> No.238542  
File: 1781600683439.jpg -(16205 B, 640x340) Thumbnail displayed, click image for full size.
16205

>>234701

>Какой воинственный компьютерщик.

Почему компьютерщик не должен быть воиственным? Особенно если весь день воюет с пердоликсом или выньдоус на должности сисадмина тех поддержки второй линии. Или даже если кодерок воющий с чат-гопотой за возможность писать слоп на РАБоте.

>> No.238543  

>>238542

> Особенно если весь день воюет

И этого ему может хватить с головой.

>> No.239317  

>>238542
Ты путаешь воинственость с обиженостью. Обиженные люди по определению ничего не могут сделать, потому и обиженны.

>> No.239957  

>>234455
Что вообще хоть за звонок? Чем он полезен и почему решили после него усилить псевдолечение?
Или я что-то не понимаю, или видимо пстхиаторша сумасшедшая, типо это просто звонок, тем более полезный.
Я бы понял, если бы там говорили про хотение ркн в переносном смысле или подобного, но раз полезный, то видимо не такой он.

Да и как там удалось добиться того, чтобы разрешили доступ в интернет, как так повезло?14:52



Delete Post []
Password
Previous [0] [1] [2] [3] [4] [5] [6] [7] [8] [9] [10] [11] [12] [13] [14] [15] [16] [17] [18] [19] [20]

[/b/] [/d/] [/tu/] [/a/] [/ph/] [/wa/] [/cg/] [/t/] [/p/]