Отключение серверов Google Global Cache, которые используются для ускорения загрузки сервисов Google, включая контент YouTube, не скажутся на скорости работы видеохостинга. Об этом NEWS.ru рассказал ведущий аналитик Mobile Research Group Эльдар Муртазин.
«Юзеры в России ничего не заметят и не увидят, скорость останется плюс-минус такой же. Когда вы смотрите YouTube, если ролик не минутный, там есть кеш, он загрузится, и вы будете смотреть», — сообщил Муртазин.
Он добавил, что на стоимости тарифов это тоже не отразится.
Проблемы, по словам специалиста, коснутся операторов связи, которым придется передавать информацию до серверов в Европе.
Отключение серверов Google в России
Как сообщил 26 мая РБК со ссылкой на источники, а также главу юридической компании «Ордерком» Дмитрия Галушко, компания Google расторгла с несколькими российскими операторами связи договоры на обслуживание серверов Google Global Cache.
Сколько места должно быть на диске C?
Серверы Google Global Cache устанавливаются на сетях интернет-провайдеров по всему миру, чтобы снизить нагрузку на магистральные сети связи и ускорить доступ пользователей к собственным сервисам (в первую очередь загрузки видео на YouTube).
В публикации РБК отмечаются два момента: расторжение договоров не связано с закрытием российского отделения Google, а крупных операторов связи в России отключение сервисов не коснулось.
Среди других проблем, которые могут проявиться после отключения серверов Google Global Cache, указывается нестабильная работа сервиса Google CAPTCHA (нужна для проверки, пытается ли получить доступ к сайту человек или робот). Если это произойдет, то на сети увеличится нагрузка, сообщил РБК один из экспертов.
Источник: rtvi.com
Инфографика → Статистика YouTube: факты и тренды
Видеохостинг YouTube был запущен 17 лет назад, в 2005 году. Он был основан тремя сотрудниками платежной системы PayPal: Чадом Хёрли, Стивом Ченом и Джаведом Каримом, которые управляли своей компанией из офиса над небольшим рестораном в г. Сан-Матео, США.
Первым видео, загруженным на сервис, было «Me at the zoo» («Я в зоопарке») с участием Карима, одного из создателей. К концу года на YouTube размещалось более двух миллионов видеороликов в день и в среднем насчитывал более 20 миллионов активных пользователей в день. В 2006 году компания Google приобрела видеохостинг за 1,65 млрд. дол. США.
В настоящее время YouTube используют более двух миллиардов интернет-пользователей каждый месяц — это около одной трети всех людей, которые в настоящее время пользуются Интернетом.
Что делать если на Диске С мало места?
1 Топ-стран по размеру аудитории YouTube
(по состоянию на апрель 2022 г., млн.чел.)
По состоянию на апрель 2022 года Индия была страной с самой большой аудиторией YouTube (467 млн. чел.). За Индией последовали США с примерно 247 млн. зрителей. Индонезия заняла третье место с 139 млн. пользователей, которые смотрели контент на YouTube.
Нидерланды стали страной с самым высоким уровнем проникновения YouTube в мире: около 95% населения страны пользовались сервисом. За ними последовали Южная Корея, Новая Зеландия и Швеция с показателями от 93,7 до 94 процентов.
2 Доходы YouTube от рекламы в процентах от мировых доходов Google с 2017 по 2021 год
В 2021 году доходы от рекламы на YouTube составили примерно 11,2% от общего дохода компании Google. Тогда годовой доход платформы от рекламы составил 28,84 млрд. дол. США (для сравнения, в предыдущем году эта цифра составила 19,77 млрд. дол. США).
По состоянию на 2020 год, YouTube создал более 800 тысяч рабочих мест по всему миру (почти половина из них в США).
3 YouTube имеет более 2 миллиардов активных пользователей
В 2021 году пользовательская база YouTube в мире составлял примерно 2,240 миллиона пользователей. По прогнозам, к 2025 году число пользователей YouTube в мире достигнет 2,854 миллиона.
Что касается ежедневных пользователей, YouTube посещает около 122 миллионов пользователей в день.
4 YouTube — вторая по популярности социальная сеть в мире
Хотя YouTube не считается типичной платформой для нетворкинга, это все же место, где люди могут общаться друг с другом через видео и в разделе комментариев. Если считать по количеству активных пользователей, YouTube занимает второе место по популярности. Сразу после Facebook, который в настоящее время занимает первое место.
Самые популярные социальные сети в мире по количеству активных пользователей в месяц
(в миллионах, по состоянию на январь 2022 года)
5 Каждую минуту на YouTube загружается 500 часов видео
Каждый час — 30 000 часов загружаемых видео. Каждый день — 720 000. Теперь представьте, чтобы просмотреть количество видео, загруженных на YouTube всего за час, вам потребуется около 82 лет.
Количество часов видео, загружаемых каждую минуту увеличилось на 40% за пять лет между 2014 и 2019 годами.
6 YouTube имеет локальные версии более чем в 100 странах и на 80 языках
Согласно опросу проведенным в 2019 году организацией Pew Research Center, две трети (67%) видеороликов, размещенных на популярных каналах YouTube, записаны на других языках, чем английский. Только 28 процентов — на английском языке. А остальные 5 процентов записаны на нескольких языках, включая английский.
Несмотря на то, что количество видео на английском языке было значительно меньше, эти ролики, как правило, получают примерно в четыре раза больше просмотров, чем видео на других языках.
7 Каждый пользователь тратит в среднем по 19 минут в сутки на YouTube
8 YouTube — второй по посещаемости веб-сайт в мире
С более чем 14 миллиардами посещений в месяц, YouTube стал одним из самых крупных игроков в Интернете сразу после своей материнской компании Google. «YouTube» также является третьим по популярности поисковым запросом в Google.
9 81% интернет-пользователей пользуются YouTube
Телефонный опрос, проведенный в США в 2021 году, показал, что 81% интернет-пользователей пользовались YouTube, а 69% заявили, что пользовались Facebook. 40% респондентов заявили, что используют Instagram.
10 Треть интернет-пользователей смотрят обучающее видео и видеоинструкции
Все больше людей рассматривают видеохостинги как инструмент обучения. Видео с практическими советами, обучающие и образовательные видео особенно популярны среди представителей поколения Z (поколение людей, родившихся примерно с 1997 по 2012 год). 53,5% интернет-пользователей поколения Z женского пола и 52,2% интернет-пользователей поколения Z мужского пола смотрят видео в этом жанре еженедельно (источник).
Другой популярный видеоконтент для интернет-пользователей в возрасте от 16 до 64 лет включает обзоры продуктов, игры и комедии.
11 Доля YouTube на рынке социальных сетей в Узбекистане
По данным Statcounter, за прошедший год YouTube стал второй по популярности социальной сетью в Узбекистане.
12 Самые популярные поисковые запросы в узбекском сегменте YouTube
Запросы с наибольшим объемом поисковых запросов в период с 1 января 2021 г. по 31 декабря 2021 г.:
Источник: ictnews.uz
YouTubeDrive: хранение файлов на YouTube
2022-07-18 в 8:00, admin , рубрики: ffmpeg, FirstDEDIC, firstvds, fvid, habrastorage, mathematica, wolfram language, YouBit, YouTube, youtube-dl, youtube-upload, YouTubeDrive, yt-dlp, Блог компании FirstVDS, неограниченный хостинг, Работа с видео, Софт, хостинг, хранение данных
Хостинг неограниченного размера? Звучит как нечто фантастическое и невозможное по законам природы. Примерно как вечный двигатель. Но что, если такое возможно? (не вечный двигатель, конечно, а неограниченный хостинг ).
Если подумать, ведь бесплатное хранилище неограниченного размера предоставляют десятки интернет-сервисов, от соцсетей до фотохостингов. Например, ограничение YouTube на размер одного видеоролика — 12 часов или 256 ГБ, но на количество видеороликов ограничений нет.
Теоретически нескольких видеороликов по 256 ГБ достаточно, чтобы спрятать в них зашифрованную копию своего SSD.
Единственное препятствие — они проверяют форматы файлов при загрузке, чтобы избежать злоупотребления сервисом. То есть чисто теоретически достаточно обойти эту проверку — и проблема решена. Но как её обойти?
Сразу приходит в голову вариант изменить расширение файла. Но сегодня такой вариант не проходит практически ни на одном хостинге , потому что они проверяют метаданные и содержимое файлов. Слишком легко отличить медиафайл от случайного набора бит.
Но что, если использовать методы стеганографии — и внедрять полезную нагрузку непосредственно в нативный медиафайл? И действительно, есть готовые инструменты для решения этой задачи. Вот некоторые из них.
Ещё раз подчеркнём — статья носит исключительно образовательный и чисто теоретический характер, материалы описанные в статье не являются руководством к действию и не нарушают законодательство.
YouTubeDrive
YouTubeDrive — это пакет для Mathematica, который перекодирует любые файлы в пиксели RGB. То есть любой поток данных просто транскодируется в видеопоток — а потом обратно. Программа написана пять лет назад чисто для проверки концепции, что такое возможно (PoC).
Промежуточный видеоформат создаётся с единственной целью — для видеохостинга.
То есть схема такая:
АРХИВ ФАЙЛОВ → ВИДЕО → YOUTUBE → и обратно АРХИВ ФАЙЛОВ
YouTubeDrive написан на Wolfram Language (язык Mathematica). Он кодирует/декодирует произвольные данные, а видео автоматически загружаются и выгружаются с YouTube.
Поскольку YouTube не накладывает никаких ограничений на общее количество видео, которые могут загружать пользователи, это обеспечивает фактически неограниченный хостинг . Правда, такой хостинг чрезвычайно медленный, потому что процедура кодирования/декодирования занимает время сначала на локальном ПК, а затем ещё на YouTube.
Вот код пакета. Разумеется, для его работы должна быть установлена сама программа Mathematica.
YouTubeDrive использует стандартные утилиты FFmpeg, youtube-upload и youtube-dl. Эти программы необходимо загрузить и установить отдельно, а перед первым использованием в пакете YouTubeDrive.wl (строчки 75–77) нужно указать места их установки:
FFmpegExecutablePath = «FFMPEG_PATH_HERE»; YouTubeUploadExecutablePath = «YOUTUBE-UPLOAD_PATH_HERE»; YouTubeDLExecutablePath = «YOUTUBE-DL_PATH_HERE»;
Например, таким образом:
75 | FFmpegExecutablePath = «C:ffmpeg.exe»; 76 | YouTubeUploadExecutablePath = Sequence[«python», 77 | «C:Usersj0kerAppDataLocalPrograms» <> 78 | «PythonPython35Scriptsyoutube-upload.py»]; 79 | YouTubeDLExecutablePath = «C:youtube-dl.exe»;
После установки этих программ и изменения конфигурационных файлов можно открыть сам пакет YouTubeDrive.wl в программе Mathematica (через File ⇨ Install. ⇨ Package ⇨ From File ⇨ YouTubeDrive.wl ).
Перед использованием с помощью youtube-upload загружаем тестовое видео в свой аккаунт, логинимся в YouTube — и получаем токен OAuth . Этот токен аутентификации понадобится для загрузки видеороликов через YouTubeDrive.
Алгоритм работы YouTubeDrive довольно понятен. В пакете две основные функции:
-
Функция YouTubeUpload[bytearr] кодирует массив данных bytearr как простое видео RGB, загружает на YouTube и возвращает ID видео. По умолчанию кодируется 64×36 пикселя RGB, которые масштабируются в 2304 квадратика 20×20 пикселей кадра 1280×720. Значения RGB только 0 или 255, то есть получается три бита на квадратик. Значения RGB записываются в файлы .PNG, которые с помощью кодека FFmpeg склеиваются в валидный видеоролик MP4, способный пережить дальнейшее транскодирование на сервере YouTube.
Примечание. На самом сервере YouTube обработка маленького видеоролика размером около 10 МБ занимает примерно 5–10 минут. Таким образом, сразу после завершения YouTubeUpload[bytearr] файл ещё недоступен для скачивания, нужно немного подождать. Только потом можно запускать вызов YouTubeRetrieve .
Пример использования
Насколько мы поняли, для примера автор программы взял из функции Бесселя простенький ByteArray и запустил YouTubeUpload из нашего пакета. В программе Mathematica это делается примерно так:
Результат кодирования массива данных объёмом чуть больше 18 КБ в видеоформат выглядит следующим образом:
Если интересно, можно скачать видеоролик и посмотреть на него, можно даже расшифровать вручную. Вместо youtube-dl для скачивания видео с YouTube сейчас обычно используют более продвинутый форк yt-dlp.
Список доступных форматов:
yt-dlp —list-formats «https://www.youtube.com/watch?v=Fmm1AeYmbNU» [youtube] Fmm1AeYmbNU: Downloading webpage [youtube] Fmm1AeYmbNU: Downloading android player API JSON [info] Available formats for Fmm1AeYmbNU: ID EXT RESOLUTION FPS │ FILESIZE TBR PROTO │ VCODEC VBR ACODEC ABR ASR MORE INFO ───────────────────────────────────────────────────────────────────────────────────────────────────────────────── sb0 mhtml 48×27 │ mhtml │ images storyboard 139 m4a audio only │ 6.84KiB 54k https │ audio only mp4a.40.5 54k 22050Hz low, m4a_dash 249 webm audio only │ 700.00B 6k https │ audio only opus 6k 48000Hz low, webm_dash 250 webm audio only │ 700.00B 6k https │ audio only opus 6k 48000Hz low, webm_dash 140 m4a audio only │ 15.43KiB 136k https │ audio only mp4a.40.2 136k 44100Hz medium, m4a_dash 251 webm audio only │ 700.00B 6k https │ audio only opus 6k 48000Hz medium, webm_dash 17 3gp 176×144 6 │ 26.54KiB 222k https │ mp4v.20.3 222k mp4a.40.2 0k 22050Hz 144p 394 mp4 256×144 25 │ 25.28KiB 235k https │ av01.0.00M.08 235k video only 144p, mp4_dash 160 mp4 256×144 25 │ 82.20KiB 765k https │ avc1.4d400c 765k video only 144p, mp4_dash 278 webm 256×144 25 │ 72.33KiB 673k https │ vp9 673k video only 144p, webm_dash 395 mp4 426×240 25 │ 66.86KiB 622k https │ av01.0.00M.08 622k video only 240p, mp4_dash 133 mp4 426×240 25 │ 254.76KiB 2371k https │ avc1.4d4015 2371k video only 240p, mp4_dash 242 webm 426×240 25 │ 163.19KiB 1519k https │ vp9 1519k video only 240p, webm_dash 396 mp4 640×360 25 │ 89.98KiB 837k https │ av01.0.01M.08 837k video only 360p, mp4_dash 134 mp4 640×360 25 │ 363.73KiB 3386k https │ avc1.4d401e 3386k video only 360p, mp4_dash 18 mp4 640×360 25 │ ~440.62KiB 3524k https │ avc1.42001E 3524k mp4a.40.2 0k 44100Hz 360p 243 webm 640×360 25 │ 238.27KiB 2218k https │ vp9 2218k video only 360p, webm_dash 397 mp4 854×480 25 │ 116.18KiB 1081k https │ av01.0.04M.08 1081k video only 480p, mp4_dash 135 mp4 854×480 25 │ 469.24KiB 4368k https │ avc1.4d401e 4368k video only 480p, mp4_dash 244 webm 854×480 25 │ 298.72KiB 2780k https │ vp9 2780k video only 480p, webm_dash 398 mp4 1280×720 25 │ 150.16KiB 1397k https │ av01.0.05M.08 1397k video only 720p, mp4_dash 136 mp4 1280×720 25 │ 512.91KiB 4774k https │ avc1.64001f 4774k video only 720p, mp4_dash 22 mp4 1280×720 25 │ ~614.20KiB 4913k https │ avc1.64001F 4913k mp4a.40.2 0k 44100Hz 720p 247 webm 1280×720 25 │ 380.61KiB 3543k https │ vp9 3543k video only 720p, webm_dash
Скачиваем формат 22:
yt-dlp —format 22 «https://www.youtube.com/watch?v=Fmm1AeYmbNU» [youtube] Fmm1AeYmbNU: Downloading webpage [youtube] Fmm1AeYmbNU: Downloading android player API JSON [info] Fmm1AeYmbNU: Downloading 1 format(s): 22 [download] Destination: DATA-34DFE96A-BFE6-4405-A9E3-CFB9959CD3CA [Fmm1AeYmbNU].mp4 [download] 100% of 527.20KiB in 00:00
На этом файле в Mathematica можно запустить функцию YouTubeRetrieve из пакета YouTubeDrive , которая выполнит обратное преобразование.
Конечно, такая схема кодирования не очень эффективна — примерно 1 минута видео на 1 МБ информации. Этот параметр можно легко увеличить на порядок (до 10 МБ на минуту видео), если вместо квадратов 20×20 внедрить какой-нибудь нормальный алгоритм коррекции ошибок.
YouTubeDrive — чисто экспериментальная программа. Автор подчёркивает, что ни в коем случае не поддерживает её использование в промышленных масштабах. Как мы уже сказали, программа написана пять лет назад чисто для доказательства концепции.
YouBit
Идея хранилища файлов на YouTube выглядит весьма привлекательно. Два года назад появилась программка fvid, которая кодирует файлы без необходимости устанавливать Mathematica. Из зависимостей ей нужен только FFmpeg и libmagic.
Она работает проще. Кодирование произвольного файла в видеоформат:
fvid -i [input file] -e fvid -i [input file] —framerate 1 -e fvid -i [input file] —password «xyz» -e
fvid -i [input video] -d
В продолжение этой темы недавно вышла утилита YouBit. Так сказать, последнее достижение прогресса в данной области.
По сравнению с предшественниками — YouBit значительно усовершенствован. Можно сказать, что это новый уровень по качеству кодирования.
Во-первых, здесь автор отказался от использования цветовой субдискретизации, а всю информации кодирует только в канале яркости. В результате получаются чёрно-белые видеоролики, но зато кодирование и декодирование становятся заметно проще — и выполняются быстрее.
В канале яркости пиксели принимают значение от 0 до 255. Соответственно, если мы кодируем в пикселе один бит (параметр bpp: 1 , то все значения от 128 до 255 воспринимаются как единица, а меньшие значения — как 0. Для примера, если кодировать в одном пикселе два бита (00, 01, 10 или 11), то весь диапазон яркости разбивается на четыре области (0–63, 64–127, 128–191, 192–255) и так далее. Чем больше бит на пиксель, тем меньше размер файла и выше вероятность некорректной расшифровки конкретного бита после транскодирования видео на серверах YouTube.
Во-вторых, автор придумал оригинальный способ оптимизации видеороликов конкретно под специфический энкодер YouTube, чтобы повысить надёжность их последующего декодирования. Правда, теперь для успешного декодирования файлов уже необходимо их сначала залить на YouTube, а потом скачать результат.
В-третьих, YouBit работает с видео любого разрешения. Оптимально 1920×1080.
Наконец (в-четвёртых), автор реализовал функцию «нулевых фреймов» — вставки чёрных кадров между кадрами с полезной нагрузкой, что позволяет снизить битрейт примерно на 40% (и размер файла) при кодировании видео на сервере YouTube.
python -m youbit upload C:/myfile.txt chrome
Аргумент chrome указывает, из какого браузера YouBit должен извлечь куки для аутентификации на YouTube (соответственно, этот браузер должен авторизоваться на studio.youtube.com/, открыть сессию и получить куку).
Затем загрузка происходит непосредственно с помощью headless-браузера Selenium в фоновом режиме. Очень грамотный подход.
Скачивание и обратное декодирование видео:
python -m youbit download https://youtu.be/dQw4w9WgXcQ
Декодирование локального видео, скачанного с YouTube:
python -m youbit decode C:/myvideo.mp4
Все операции можно выполнять через Python API.
Как мы уже говорили, ограничения YouTube на размер видеоролика — 12 часов или 256 ГБ. Если аккаунт не верифицирован, ограничение 15 минут.
Настройка YouBit по умолчанию на размер одного файла — 9 ГБ, но её можно скорректировать при желании.
Неограниченный хостинг в других местах
Неограниченные хранилища файлов предоставляют и другие сервисы, например:
- Telegram (ограничение по размеру файлов 2 ГБ, в платной версии 4 ГБ)
- Соцсети (любые файлы можно хранить под видом видеозаписей и фотографий), обычно там хостинг неограниченного размера
- Habrastorage
Для работы с этими «нетрадиционными хостингами» можно написать свой клиент/файл-менеджер — небольшую программку для закачки файлов через YouBit, чтобы не запускать её вручную.
В идеале хотелось бы добавить туда следующие функции:
- Поддержка разных хостингов (разные соцсети, фото- и видеохостинги), чтобы YouBit копировал видео с нашими файлами не только на YouTube, но и на другие хостинги, которые предоставляют неограниченное дисковое пространство бесплатно.
- Резервное копирование. Поскольку каждая площадка рассматривается как временная, должно быть предусмотрено избыточное дублирование.
- Грамотная синхронизация: обновление новых версий или новых файлов без переписывания всего архива.
Но это в идеале. В минимальном варианте хватит и простого скрипта, который в пакетном режиме просто кодирует через YouBit пару сотен файлов в формат MP4 — и заливает видеофайл на несколько видеохостингов.
Что касается хранения файлов на YouTube (и в других сервисах крупных корпораций) — суть сводится к тому, чтобы использовать инфраструктуру не совсем так, как это предполагается, но при этом совершенно легально. Повторюсь, если пользователь маскирует свои личные файлы под видеоролики и заливает их на публичный хостинг , он никак не нарушает законодательство ни одной страны. В любом случае это не коммерческая программа, а просто теоретический эксперимент, а повторять его или нет — решать вам.
НЛО прилетело и оставило здесь промокод для читателей нашего блога:
— 15% на все тарифы VDS (кроме тарифа Прогрев) — HABRFIRSTVDS .
Источник: www.pvsm.ru