|
|
|
Papant
Стаж: 18 лет 2 месяца Сообщений: 57925
|
Papant ·
07-Янв-22 18:53
(3 года 9 месяцев назад, ред. 08-Июн-23 14:52)
Внимание!Если в вашем клиенте появилась поддержка протокола BitTorrent v2: во избежание проблем — при создании новых торрентов установите формат V1 !
Не используйте режим совместимости с протоколом V2(гибридные).
на примере qbittorrent 4+
Википедия:
Работа над BitTorrent протоколом второй версии ведётся с 2008-го года. В протоколе осуществлён уход от использования алгоритма SHA-1, имеющего проблемы с подбором коллизий, в пользу SHA2-256. SHA2-256 применяется как для контроля целостности блоков данных, так и для записей в индексах (info-dictionary), что нарушает совместимость с DHT и трекерами. Для магнитных ссылок на торренты с хэшами SHA2-256 предложен новый префикс «urn:btmh:» (для SHA-1 и гибридных торрентов используется «urn:btih:»).
Так как замена функции хэширования нарушает совместимость протокола (поле с хэшем 32 байта вместо 20 байт), разработка спецификации BitTorrent v2 изначально велась без оглядки на обратную совместимость и в состав были приняты другие существенные изменения, такие как использование хеш-дерева Меркла в индексах для сокращения размера torrent-файлов и проверки загруженных данных на уровне блоков.
Из изменений в BitTorrent v2 также выделяется переход к привязке отдельных хэш-деревьев к каждому файлу и применение выравнивания файлов по частям (без добавления добавочного заполнения после каждого файла), что позволяет избавиться от дублирования данных при наличии одинаковых файлов и упрощает выявления разных источников для файлов. Повышена эффективность кодирования структуры каталогов в торренте и добавлены оптимизации для обработки большого числа мелких файлов.
Для сглаживания сосуществования BitTorrent v1 и BitTorrent v2 реализована возможность создания гибридных torrent-файлов, которые включают помимо структур с хэшами SHA-1, индексы с SHA2-256. Указанные гибридные торренты могут использоваться с клиентами, поддерживающими только протокол BitTorrent v1. Также ведётся разработка для поддержки протокола WebTorrent. Сам переход из SHA-1 создаёт несовместимость в DHT сетях, трекерах (в который прописана жесткая длина info-хеша на 20 символов). Чтобы не терять совместимость, в первое время можно проверять и SHA-1, и SHA-256, сокращая 32-символьный, несовместимый со старым протоколом BitTorrent v1, SHA-256 до 20 символов.
Выпуск libtorrent 2.0 с поддержкой протокола BitTorrent 2
Представлен значительный выпуск библиотеки libtorrent 2.0 (известна также как libtorrent-rasterbar), предлагающей реализацию протокола BitTorrent, эффективную с точки зрения потребления памяти и нагрузки на CPU. Библиотека задействована в таких торрент-клиентах, как Deluge, qBittorrent, Folx, Lince, Miro и Flush (не путать с другой библиотекой libtorrent, которая используется в rTorrent). Код libtorrent написан на языке C++ и распространяется под лицензией BSD.
Выпуск примечателен добавлением поддержки протокола BitTorrent v2, в котором осуществлён уход от использования алгоритма SHA-1, имеющего проблемы с подбором коллизий, в пользу SHA2-256. SHA2-256 применяется как для контроля целостности блоков данных, так и для записей в индексах (info-dictionary), что нарушает совместимость с DHT и трекерами. Для магнитных ссылок на торренты с хэшами SHA2-256 предложен новый префикс "urn:btmh:" (для SHA-1 и гибридных торрентов используется "urn:btih:").
Так как замена функции хэширования нарушает совместимость протокола (поле с хэшем 32 байта вместо 20 байт) разработка спецификации BitTorrent v2 изначально велась без оглядки на обратную совместимость и в состав были приняты другие существенные изменения, такие как использование хеш-дерева Меркла в индексах для сокращения размера torrent-файлов и проверки загруженных данных на уровне блоков.
Из изменений в BitTorrent v2 также выделяется переход к привязке отдельных хэш-деревьев к каждому файлу и применение выравнивания файлов по частям (без добавления добавочного заполнения после каждого файла), что позволяет избавиться от дублирования данных при наличии одинаковых файлов и упрощает выявления разных источников для файлов. Повышена эффективность кодирования структуры каталогов в торренте и добавлены оптимизации для обработки большого числа мелких файлов.
Для сглаживания сосуществования BitTorrent v1 и BitTorrent v2 реализована возможность создания гибридных torrent-файлов, которые включают помимо структур с хэшами SHA-1, индексы с SHA2-256. Указанные гибридные торренты могут использоваться с клиентами, поддерживающими только протокол BitTorrent v1. Ожидаемая в libtorrent 2.0 поддержка протокола WebTorrent из-за нерешённых проблем со стабильностью отложена до следующего значительного выпуска, который выйдет не раньше конца года.
Цитата:
BiglyBT стал первым торрент-клиентом с поддержкой спецификации BitTorrent V2
Цитата:
Вышел qBittorrent 4.4 с поддержкой протокола BitTorrent v2
|
|
|
|
KorDen32
Стаж: 16 лет 2 месяца Сообщений: 2901
|
KorDen32 ·
07-Янв-22 23:42
(спустя 4 часа, ред. 08-Май-22 19:17)
В какой-то степени это действительно светлое будущее, в котором наконец-то, спустя столько времени, будет решена проблема разных хешей одинаковых файлов и объема структуры файлов в торрентах с сложной структурой папок.
Однако, зная местный консерватизм (чего стоит любовь к uTorrent 1.x/2.x, когда уже полно современных многопоточных торрент-клиентов), кажется, что BitTorrent V2 может стать этаким IPv6 относительно IPv4 (BitTorrent V1).
Давайте же этого избегать, обсудим и примем как данность появление гибридных торрентов на трекере. а не
Hannibal61 писал(а):
82563017Нет на Рутрекере - и не надо!!!
Тестовые раздачи
(доступны только участникам групп)
(V2 не регистрируется и не доступен к загрузке)
Один файл
V1 - https://rutr.life/forum/viewtopic.php?t=6161614
Hybrid - https://rutr.life/forum/viewtopic.php?t=6161615
V2 - https://rutr.life/forum/viewtopic.php?t=6161616
Папка
V1 - https://rutr.life/forum/viewtopic.php?t=6161610
Hybrid - https://rutr.life/forum/viewtopic.php?t=6161609
V2 - https://rutr.life/forum/viewtopic.php?t=6161608
Протестированные клиенты, выявленные проблемы и особенности:
- uTorrent 1.x/2.x: при включенной функции переименования недозакачанных файлов в .!uT и наличии нескольких одинаковых pad-файлов, получаем в папке .pad по два файла - xxx и xxx.!uT
- Transmission 3.0: Hybrid-файлы не загружаются, invalid torrent file, pull request от 15.10.21 смержен
- aria2: Hybrid-файлы читаются некорректно - https://github.com/aria2/aria2/issues/1903 https://github.com/aria2/aria2/pull/1905
|
|
|
|
Orhideous
Стаж: 15 лет 10 месяцев Сообщений: 55
|
Orhideous ·
07-Янв-22 23:52
(спустя 10 мин., ред. 10-Апр-22 20:44)
Текущее состояние клиентов на апрель 2022 года таково:
- qBittorrent поддерживает, начиная с 4.4.x;
- BiglyBT поддерживает;
- Deluge, как основанный на libtorrent-rasterbar, должен поддерживать, начиная с 2.0.5 библиотеки;
- Transmission поддерживает гибридные раздачи в ночных сборках, см. задачу.
- uTorrent с версии 3.4.2 поддерживает «гибридные» раздачи, о v2 пока нет информации.
О rTorrent пока нет данных. Я буду дополнять этот список в будущем.
|
|
|
|
DEnVIkL0
Стаж: 16 лет 1 месяц Сообщений: 30
|
DEnVIkL0 ·
07-Янв-22 23:56
(спустя 4 мин.)
А кто-нибудь может грамотно (без спекуляций) объяснить, что сложного в том, чтобы реализовать поддержку BitTorrent v2 на рутрекере?
Ведь во благо же...
|
|
|
|
Л. М. Гога
Стаж: 16 лет 11 месяцев Сообщений: 19311
|
Л. М. Гога ·
08-Янв-22 00:20
(спустя 24 мин., ред. 08-Янв-22 00:21)
DEnVIkL0
Как минимум это более чем двукратное увеличение места для хранения торрентов.
Пока не совсем понятно, какой размер будут иметь торренты v2, но они явно должны быть больше v1; возможно, даже намного больше. А заливать чисто v2 сюда точно не позволят в ближайшие годы, т. е. возможны только гибриды.
DEnVIkL0 писал(а):
82563118Ведь во благо же...
При полном скачивании раздачи я вообще не вижу смысла в v2. При выборочном же скачивании раздачи с большим количеством мелких файлов смысл, возможно, будет, но это скорее исключение, чем правило.
|
|
|
|
EvelRus
Стаж: 17 лет 10 месяцев Сообщений: 1511
|
EvelRus ·
08-Янв-22 00:20
(спустя 8 сек.)
Л. М. Гога писал(а):
82563167Как минимум это более чем двукратное увеличение места для хранения торрентов.
Неужели сами торрент файлы занимают бешеное количество места? Что-то очень сомневаюсь. Понятно, что не мало, но явно не десятки терабайт...
|
|
|
|
Л. М. Гога
Стаж: 16 лет 11 месяцев Сообщений: 19311
|
Л. М. Гога ·
08-Янв-22 00:23
(спустя 2 мин.)
EvelRus
Ограничения на размеры торрентов как бы не на пустом месте вводились. Значит, это всё-таки критично.
Правда, это будет относиться только к новым раздачам (старые-то уже навряд ли будут перезаливать), так что сильного прироста сразу не должно быть.
|
|
|
|
KorDen32
Стаж: 16 лет 2 месяца Сообщений: 2901
|
KorDen32 ·
08-Янв-22 00:28
(спустя 4 мин.)
Orhideous писал(а):
82563097qBittorrent поддерживает, начиная с вышедшей буквально на днях 4.4.0;
Конечно, здесь в основном будет разговор про Windows, однако замечу, что в Ubuntu 20.04 LTS 4.4.x не будет из-за необходимости достаточно свежей версии Qt 5.15.2. Есть AppImage, но он собран с неоттестированным Qt6. В Debian, очевидно, оно только в sid.
Так что пройдет еще немало времени, пока различиные Debian/Ubuntu-based домашние серверы (и ПК) обновятся до этой версии. На полугодовой Ubuntu не много народу сидит постоянно, следующий LTS конечно уже через 4 месяца, но до появления 22.04.1 (~август 2022) скорее всего мало кто будет рыпаться.
Л. М. Гога писал(а):
82563167При полном скачивании раздачи я вообще не вижу смысла в v2.
При наличии сидов с целыми файлами. BTv2 еще и про возможность переиспользования совпадающих файлов.
|
|
|
|
Л. М. Гога
Стаж: 16 лет 11 месяцев Сообщений: 19311
|
Л. М. Гога ·
08-Янв-22 00:33
(спустя 5 мин.)
KorDen32 писал(а):
82563217BTv2 еще и про возможность переиспользования совпадающих файлов.
Совпадающих с чем? С файлами в других раздачах? В пределах Рутрекера такое совпадение вряд ли возможно. Если только с раздачами на других трекерах.
|
|
|
|
Papant
Стаж: 18 лет 2 месяца Сообщений: 57925
|
Papant ·
08-Янв-22 00:57
(спустя 23 мин.)
Как я понимаю пока обсуждаем сферического коня в вакууме. Для начала надо хоть немного поэкспериментировать.
|
|
|
|
KorDen32
Стаж: 16 лет 2 месяца Сообщений: 2901
|
KorDen32 ·
08-Янв-22 01:00
(спустя 2 мин., ред. 08-Янв-22 01:00)
Л. М. Гога
Сходу - с файлами в этой же раздаче. cover.jpg, BDMV/BACKUP и все такое.
А потом возможно и переиспользование, в стиле других P2P-сетей. Теоретически, поскольку хэши частей лежат в том же пространстве 32-байтовых чисел, в светлом будущем возможна реализация вытягивания одинаковых кусков с разных раздач - анонсировать в DHT не только торренты, но и куски.. Но текущая сеть Mainline DHT 20-байтовая.... С другой стороны, анонсирование кусков явно будет перегрузом сети, может действительно анонсирование усеченных хешей и дальнейшее согласование в индивидуальном коннекте облегчит жизнь такой сети...
|
|
|
|
Л. М. Гога
Стаж: 16 лет 11 месяцев Сообщений: 19311
|
Л. М. Гога ·
08-Янв-22 01:28
(спустя 28 мин., ред. 08-Янв-22 01:28)
KorDen32 писал(а):
82563312с файлами в этой же раздаче. cover.jpg, BDMV/BACKUP и все такое.
Откуда и зачем в одной раздаче несколько одинаковых файлов cover.jpg? 
Да даже если и есть такие, то какой процент (доли процента) они занимают в общем объёме раздачи? То же самое с BD.
KorDen32 писал(а):
82563312в светлом будущем возможна реализация вытягивания одинаковых кусков с разных раздач - анонсировать в DHT не только торренты, но и куски..
Т. е. там, где мы сейчас делаем один запрос по каждой раздаче, в светлом будущем мы будем делать 100500 запросов (на каждый отдельный файл плюс ещё на отдельные кусочки в каждом файле).
|
|
|
|
KorDen32
Стаж: 16 лет 2 месяца Сообщений: 2901
|
KorDen32 ·
08-Янв-22 12:10
(спустя 10 часов, ред. 08-Янв-22 12:10)
Л. М. Гога писал(а):
82563411Т. е. там, где мы сейчас делаем один запрос по каждой раздаче, в светлом будущем мы будем делать 100500 запросов (на каждый отдельный файл плюс ещё на отдельные кусочки в каждом файле).
Там, где сейчас по 0-1 сиду на килободе на одном трекере с именем SUPERMEGAFILM.mkv, на другом SUPERMEGA\[TRACKERNAME]FILM[RELEASEGROUP][LANGUAGE].mkv + SUPERMEGA\ReadMe.nfo (стоящий в начале первой части и смещающий все блоки), на третьем еще чего, при этом сам MKV одинаковый, но хэши отличаются, будет возможность скачать раздачу.
Л. М. Гога писал(а):
82563411Откуда и зачем в одной раздаче несколько одинаковых файлов cover.jpg?
Дискографии же.
Бывает и такое
Код:
/mnt/lib1/Music/Nightwish (1997-2015)$ fdupes -S -r .
...
165084162 bytes each:
./Singles/2004 Wish I Had An Angel [Spinefarm spi213cd Finland]/Nightwish - Wish I Had An Angel (Single).flac
./Studio Albums/2004 Once/2004 Once [2004 Nuclear Blast NB 1390-8 Germany]/Single-CD/Nightwish - Wish I Had An Angel (Single).flac
...
|
|
|
|
Avatar-Lion
Стаж: 16 лет 11 месяцев Сообщений: 7680
|
Avatar-Lion ·
08-Янв-22 12:44
(спустя 34 мин.)
1) Выступаю за принудительный переход на v2 для всех создаваемых .torrent-файлов, когда все популярные клиенты обзаведутся поддержкой новой версии протокола.
2) Готов перехэшировать все имеющиеся у меня раздачи, если их авторы обновят .torrent-файлы с целью перехода на v2.
Переживания по поводу какого-то там повышенного объема .torrent-файлов лично мне кажутся надуманными. Специально вот посмотрел сейчас у себя: самый легкий .torrent-файл весит 6 килобайт, самый тяжелый - 612 килобайт. Проще говоря, если никто не жужжит даже при разнице в 100 (!) раз, то при переходе на v2-торренты увеличение размера .torrent-файлов в два-три раза вообще никто не заметит, включая сам Рутрекер. По поводу Рутрекера, кстати. Я уверен, что такая вот разница в размере торрент-файлов обусловлена безграмотным подбором размера блока. Когда будет осуществляться переход на v2-торренты, под шумок можно ввести и какие-то новые правила при создании новых v2-торрент-файлов, чтобы избежать ненужного раздувания их размеров.
|
|
|
|
CR929
Стаж: 11 лет 6 месяцев Сообщений: 792
|
CR929 ·
08-Янв-22 12:48
(спустя 4 мин.)
Гибриды сейчас выглядят примерно вот так. Напомнило ситуацию с BitComet. Так оставить можно или всё же V1 перезалить?
|
|
|
|
Papant
Стаж: 18 лет 2 месяца Сообщений: 57925
|
Papant ·
08-Янв-22 12:51
(спустя 2 мин.)
CR929 писал(а):
82565008Так оставить можно или всё же V1 перезалить?
Ну оставьте пока. Надо же опыт иметь.
Но можно упомянуть об этом, чтобы не возникало вопросов про пад-файлы.
|
|
|
|
CR929
Стаж: 11 лет 6 месяцев Сообщений: 792
|
CR929 ·
08-Янв-22 12:57
(спустя 6 мин., ред. 08-Янв-22 12:57)
Papant писал(а):
82565026Но можно упомянуть об этом
Так и сделаю, дабы пользователи не переживали. Для сравнения, перехешировал в V1, паддинги ушли. Всё это дело на qB 4.4.0
|
|
|
|
jaundiced
Стаж: 15 лет 3 месяца Сообщений: 15629
|
jaundiced ·
08-Янв-22 13:11
(спустя 13 мин.)
Papant писал(а):
82565026оставьте
Модераторы попросят убрать мусорные файлы, от этого будет и статус зависеть.
Есть отличие .pad-файлов от _____padding_file?
|
|
|
|
CR929
Стаж: 11 лет 6 месяцев Сообщений: 792
|
CR929 ·
08-Янв-22 13:17
(спустя 5 мин.)
Не знаю, как с другими клиентами, но кубит их куда-то прячет при добавлении торрента, и папки нет как таковой. Надо бы попробовать другим клиентом скачать, но на руках только вышеупомянутый
|
|
|
|
KorDen32
Стаж: 16 лет 2 месяца Сообщений: 2901
|
KorDen32 ·
08-Янв-22 13:32
(спустя 14 мин., ред. 08-Янв-22 13:34)
Практически - нет ( почти), концептуально -да.
BitComet запилил свой ни с кем не совместимый формат padding, причем не очень логичный - просто после каждого файла создавался _padding_file_ XX_....., где XX просто порядковый номер.
А тут всё же боле логичная рекомендация в спецификации BEP-0047: использовать директорию .pad с именем файла, обозначающим объем этого самого файла (забитого нулями) в байтах. Таким образом, например, в этой раздаче дважды указан файл .pad\2 (т.е. размер 2 байта).
Выравнивание VIDEO_TS\VTS*.VOB одинакового размера сюда же.
Надо бы поглядеть, как с такими раздачами работают пресловутые uT 1.x/2.x, не сходит ли он с ума при упоминании одного и того же файла дважды.
Кстати, про дедупликацию и поиск частей в соседних торрентах в клиенте - BEP-0038
|
|
|
|
stalkerok
Стаж: 5 лет 3 месяца Сообщений: 1173
|
stalkerok ·
08-Янв-22 13:33
(спустя 1 мин.)
CR929
stalkerok писал(а):
82562049Они есть, если открывать торрент-файл старой версией qBt или уторрентом. Для заливки на трекер не подойдут, конечно же.
|
|
|
|
CR929
Стаж: 11 лет 6 месяцев Сообщений: 792
|
CR929 ·
08-Янв-22 13:48
(спустя 14 мин.)
stalkerok писал(а):
8256525482562049Они есть, если открывать торрент-файл старой версией qBt или уторрентом. Для заливки на трекер не подойдут, конечно же.
Обидно, я уж думал, 21 век начался 
|
|
|
|
stalkerok
Стаж: 5 лет 3 месяца Сообщений: 1173
|
stalkerok ·
08-Янв-22 14:05
(спустя 16 мин., ред. 08-Янв-22 14:05)
CR929 писал(а):
82565337Обидно, я уж думал, 21 век начался
Если принудительно не будут просить делать торрент v1, то может быть 
https://rutr.life/forum/viewtopic.php?t=6133081 хотя эта раздача живёт.
|
|
|
|
CR929
Стаж: 11 лет 6 месяцев Сообщений: 792
|
CR929 ·
08-Янв-22 14:11
(спустя 6 мин., ред. 08-Янв-22 14:11)
stalkerok писал(а):
82565404Если принудительно не будут просить делать торрент v1, то может быть
Недооформлено поставили и попросили перезалить. Да оно и понятно в общем. Мне как качающему было бы не очень приятно, если бы в раздаче какая-то дребедень была просто потому, что клиент старый
|
|
|
|
jaundiced
Стаж: 15 лет 3 месяца Сообщений: 15629
|
jaundiced ·
08-Янв-22 14:24
(спустя 13 мин.)
KorDen32
Спасибо!
CR929 писал(а):
82565166прячет
Видишь паддинги? Нет. А они есть! (ДМБ)
stalkerok писал(а):
82565404живёт
Модератор сразу пропустил по каким-то причинам. Заметили позже. Сейчас перезаливать смысла нет, т. к. сама игра обновилась.
Если юзеры будут удалять ненужные им файлы, то это скажется на сидах. Если руководство скажет, что в таком виде раздачи нормальные, просить удалять файлы не будем.
|
|
|
|
stalkerok
Стаж: 5 лет 3 месяца Сообщений: 1173
|
stalkerok ·
08-Янв-22 14:36
(спустя 11 мин.)
uTorrent 3.4.2 .pad не качает по дефолту, ставит пропуск на папку и оставляет part файл хранения частей, qBittorrent 4.3.9 же на диске ничего не оставляет.
|
|
|
|
master255
Стаж: 16 лет 3 месяца Сообщений: 134
|
master255 ·
08-Янв-22 15:19
(спустя 42 мин.)
Торренты 2.0 ждут моего теста. Последний раз нашёл там кучу багов в Libtorrent.
Главное, что я сейчас ищу это возможность использовать similar поле, которое позволит добавлять в torrent файл хеши раздач, со схожими файлами (хешами) и при этом раздающий будет раздавать такие файлы, а не молчать о их наличии, как сейчас.
Проще говоря нужен функционал, который позволит изменять торрент, но продолжать его раздавать тем у кого старый хеш и торрент файл.
Как я понял в BiglyBT уже сделали что-то такое, но это только слухи. На практике я такого не видел ни разу.
В Torrent 2.0 речь скорее о дополнительных пирах из веб браузеров из-за поддержки WebTorrent.
А эту фичу я не знаю внедрили или нет в 2.0. Так как там в последнее время работа над багами шла. В 1.0 такого точно нет, но это не зависит от версии торрентов.
Вообще это торренты 2.0 слишком громко звучит... 1.5 скорее или 1.6
|
|
|
|
Lance
Стаж: 18 лет 5 месяцев Сообщений: 349
|
Lance ·
08-Янв-22 16:00
(спустя 41 мин.)
Я против принудительного перехода на v2.
|
|
|
|
Avatar-Lion
Стаж: 16 лет 11 месяцев Сообщений: 7680
|
Avatar-Lion ·
08-Янв-22 16:06
(спустя 6 мин.)
Lance
Вот из-за таких как вы и выпускают до сих пор мониторы с VGA-разъёмами.
|
|
|
|
Л. М. Гога
Стаж: 16 лет 11 месяцев Сообщений: 19311
|
Л. М. Гога ·
08-Янв-22 16:14
(спустя 7 мин.)
Lance писал(а):
82566026Я против принудительного перехода на v2.
А его и не будет. Так что можете не волноваться.
|
|
|
|
