IT в России и мире в реалиях мирового кризиса

1,278,393 7,798
 

Сообщение не найдено!

Сообщение #3919528 не найдено в ветке "IT в России и мире в реалиях мирового кризиса"!
Alexxey
 
Слушатель
Карма: +47.85
Регистрация: 12.02.2009
Сообщений: 6,363
Читатели: 3
Цитата: pkdr от 15.07.2016 15:05:18Ну вот увидели же. А была бы это проприетарь с закрытым кодом - до сих пор бы баг оставался.

Увидели, да. В результате совершения другой ошибки, правда, а не проверки кода. ЕМНИП, чувак писал своё приложение с ssl, никого не трогал, отправил на сервер ошибочно сформированный пакет heartbeat, получил в ответ кусок памяти сервера, и о%уел. Заглянул в код openssl и снова о%ел. В случае проприетарщины сама фаза обнаружения уязвимости _в данном случае_ мало чем бы отличалась! Вариации с её устранением - да, могли быть самые разные, вплоть до очень печальных, всё зависело бы от проиводителя ПО. Ну так я же не за холивар проприетарщина vs опенсорс, тем более, что я за последний. Улыбающийся Пост мой о другом совершенно: то, что открытость исходников якобы делает невозможными никакие закладки по определению, потому что де армия вась пупкиных с утра до вечера перепроверяет все исходники, и немедленно вскроет все коварные замыслы - миф.
  • +0.02 / 1
  • Комментировать
Поверонов
 
Слушатель
Карма: +37.17
Регистрация: 05.06.2010
Сообщений: 18,938
Читатели: 7
Цитата: MB от 15.07.2016 12:15:49ЕМНИП, там потолок - 32Тб, нет нативной репликации, стэндбая, распараллеливания запросов и много чего ещё.
могу ошибаться.
что-то из перечисленного в своё время видел как проприетарные (опять же) опции третих (зарубежных) компаний.

PS
скажу сразу, внятного конструктива - в башке не имею.
потому и спрашиваю. именно спрашиваю, а не наезжаю.

PPS
иррациональной любови к оракулу - не испытываю, ежели чо.

Тенденция всё держать в одном конструктиве нынче ушла. Требования к базам данным расслоились и они специализировались
- на транзакционные - opensourse : postgresSQL, mariadb+innodb ( ветвь mysql продолженная оригинальной группой разработчиков )
- документальные : mongodb, couchdb, cassandra
- кэши : мемсаche, kafka, cassandra
- timeseries : InfluxDB

Современная тенденция выглядит так что все источники данных пишут параллельно в транзакционную базу данных, из которой записи затем реплицируются по специализированным базам, которые масштабируются и дистрибутируются, чтобы обеспечить к ним быстрый доступ и чтение.
Параллельно данные архивируются в исторических базах откуда считываются медленно ( ибо сжаты ) но зато могут хранить терабайты.
  • +0.00 / 0
  • Комментировать
Поверонов
 
Слушатель
Карма: +37.17
Регистрация: 05.06.2010
Сообщений: 18,938
Читатели: 7
Цитата: MB от 16.07.2016 09:27:07вопросов больше не имею (с)

вообще-то я говорил про нагруженные (от 100К операций в минуту) БД, имеющими порядковые размеры - не Тб, а Птб.
Перечисленный Вами стек технологий - это "прикольное" Лего.
Вы лично - "впишитесь" в этот зоопарк, если Вам делегируют ответственность за ИТ Сбера, ЦБ, ФНС, ФТС и пр. ?

PS
а так да... образ Кассандры - мучил чресла мои ночами, в то далёкое время, когда я был в пубертате...

С "нагруженностью" борются применяя правильное железо ( типа RAM500G+SSD*N), масштабирование и патиционирование с дистрибуцией.
А зоопарк в основном возникает из-за разнородности типов данных. Если ваши данные однородны типа поток финансовых транзакций, то зоопарк может не потребоваться. Всякие "прикольные" базы применяются либо для ускорения специальных операций типа идентификации, или для быстрой выдачи длинных текстов (с чем не справляется даже и Оракл), либо для тиражирования однотипных ответов миллионам юзеров типа новости, котировки и т.п.
PS. А кассандру по делу применяют и большие монстры. Например крупнейшая биржа мира TheICE.com
New York Stock Exchange, Senior Database Administrator


Цитата: Цитата• Any experience with Hadoop ecosystem and technologies such as Impala, hdfs, Kafka, Spark is required.
• 1+ years of experience working directly on PostgreSQL or Cassandra databases will be a plus
Отредактировано: Поверонов - 16 июл 2016 12:51:42
  • -0.01 / 1
  • Комментировать
TAU
 
Слушатель
Карма: +53.06
Регистрация: 24.07.2008
Сообщений: 4,145
Читатели: 0
  • +0.00 / 0
  • Комментировать
Брянский
 
russia
Томск
57 лет
Слушатель
Карма: +0.57
Регистрация: 04.02.2013
Сообщений: 8,700
Читатели: 5
Цитата: pkdr от 31.05.2016 20:05:57Если у меня вылетело сразу ДВА диска из RAID 5 то я не попал в любом случае, я на любом рейд-контролере уже ничего восстановить не смогу, а сразу пойду восстанавливать данные из бекапа.
Восстановление данных это вообще задача бекапа, а не рейда. Рейды отвечают только за отказоустойчивость и/или ускорение работы хранилища данных, за надёжность хранения данных отвечает бекап. Те кто полагается на рейд для надёжности сохранения данных рано или позно караются за такую ошибку.

Насчет невозможности восстановления тома после вылета сразу двух дисков из RAID 5, вы сильно заблуждаетесь..
вы просто некомпетентны в этом вопросе
Что касается бэкапа - тут вы правы асболютно
Масссовая миграция в Россию представителей неславянских этносов и культур является угрозой национальной безопасности.
Результатом СВО должно стать существенное увеличение доли славянского населения в составе РФ.
  • +0.01 / 1
  • Комментировать
Брянский
 
russia
Томск
57 лет
Слушатель
Карма: +0.57
Регистрация: 04.02.2013
Сообщений: 8,700
Читатели: 5
Цитата: pkdr от 31.05.2016 20:05:57Web BIOS - то ещё убожество, причём неудобное, да ещё и бесполезное, так как через сериал консоль не управляется никак, ему нужны мышь и графический монитор или advanced лицензия на ILO.
У HP есть великолепный и удобный hpacucli/hpsacli, рядом с которым megacli кажется крайне неудобным, хотя да, тулзу от HP надо сначала очень внимательно изучить.
Storage Manager тоже весьма неудобное и кривоватое, графическая тулза от HP значительно удобнее и понятнее, хоть я ею и мало пользуюсь.


 если вы в чем то не разбираетесь это еще не значит что это убожество..
у LSI есть возможность загрузить BIOS не в графическом, а в текстовом режиме.
из UEFI BIOS матери
вы не знали?Непонимающий
Масссовая миграция в Россию представителей неславянских этносов и культур является угрозой национальной безопасности.
Результатом СВО должно стать существенное увеличение доли славянского населения в составе РФ.
  • +0.00 / 0
  • Комментировать
Брянский
 
russia
Томск
57 лет
Слушатель
Карма: +0.57
Регистрация: 04.02.2013
Сообщений: 8,700
Читатели: 5
Цитата: Поверонов от 03.06.2016 07:45:49В дискуссии мне показалось непонимание смысла RAID-0 "striping". Так вот при RAID-0 физический блок распределяется секторами по "шпинделям" так что при чтении или записи головки подходят ко всем секторам практически одновременно и каждый сектор читается или пишется параллельно. Таким образом физический блок читается/записывается за время обработки сектора то есть 1/N где N - число "шпинделей".
Выигрыш при этом и в том что ожидание подхода головки к сектору также происходит одновременно на всех "шпинделях".
Это может сделать только аппаратный RAID. Все другие RAID лишь размазывают байты по дискам с целью избыточности, то есть для  восстановления байтов в случае краха одного "шпинделя". Но все эти RAID ухудшают скорость по меньшей мере записи так как дублируют физический блок по нескольким шпинделям.
RAID-0 не создает избыточности поэтому применяется только вместе с "зеркалированием"  RAID-1 ( получается 1+0 ). RAID-1  дорогое удовольствие так как вдвое уменьшает емкость дисков, поэтому не используется бедными организациями. При большом числе "шпинделей" RAID-1+0  обеспечивает замену "на лету" любого "шпинделя" при возрастании скорости операций и чтения и записи = N/2
Поэтому RAID-1+0 незаменим для баз данных.
Как оказалось RAID-0 выгоден и для SSD где казалось бы не должно быть заметного выигрыша из-за отсутствия читающих головок и ожидания их подхода. Но встроенный контроллер SSD нелинеен по времени от размера записываемой порции данных и можно подобрать размер физического блока и порции так что запись/чтение физического блока "порционно" на N SSD будет в N раз быстрее чем на один.
Поэтому RAID-1+0 годится и для SSD.

товарищ Power On
вы тут хрень написали
во первых вы путаете линейную скорость чтения и IOPS
сервера и схд линейная скорость чтения мало интересует
во вторых RAID 0 никогда не используется в серверах и СХД
даже для SSD
они используется исключительно для записи видео, в серверах RAID 0 используется только в одном случае - когда SSD ставятся как кэш к тому из обычных дисков
во третьих использование RAID 0 никак не может увеличить количество IOPS именно потому что поток транзакций читается сразу со всех HDD
А вот RAID 1 и RAID 10 на аппаратных контроллерах  могут увеличить IOPS вдвое - контроллер может распределять запросы на чтение по разным HDD потому что на них лежат полные и идентичные копии требуемых данных
 
Масссовая миграция в Россию представителей неславянских этносов и культур является угрозой национальной безопасности.
Результатом СВО должно стать существенное увеличение доли славянского населения в составе РФ.
  • +0.00 / 0
  • Комментировать
Брянский
 
russia
Томск
57 лет
Слушатель
Карма: +0.57
Регистрация: 04.02.2013
Сообщений: 8,700
Читатели: 5
Цитата: Pepenec от 19.06.2016 10:41:09Просто получается, что у интел есть свой бекдор, который контролируют только они.  И тогда не может быть никаких злоумышленников,  а будет команда, которую Штаты отдадут руководству Интел,  если к примеру захотят вывести из строя некие компьютеры например в России.

блин на серверах эти сервисные процессора со своей отдельной прошивкой, своим сетевым стеком и мак-адресом уже лет как 13 используются
- первая IBM была...
вам пароли по дефолту к разным серверам рассказать?
А их ведь почти никто не меняетБъющийся об стену
Масссовая миграция в Россию представителей неславянских этносов и культур является угрозой национальной безопасности.
Результатом СВО должно стать существенное увеличение доли славянского населения в составе РФ.
  • +0.00 / 0
  • Комментировать
Брянский
 
russia
Томск
57 лет
Слушатель
Карма: +0.57
Регистрация: 04.02.2013
Сообщений: 8,700
Читатели: 5
Цитата: Oleg K. от 20.06.2016 13:00:20Давно уже про "закладки" в железе пишут. Реальные возможности и "где там правда" - рядовым людям не понять.

Но я себе давно хочу купить нашу железку (от МЦСТ). Цена только кусается пока, заразаУлыбающийся
Радует, что она (железка) хотя бы есть.

p.s. Граждане, не забывайте выполнять резервное копирование важных данных на носитель, не подключенный к компьютеру или другому устройству (который "лежит в шкафу")!

А нахрена вам домой ПК от МЦСТ
вы кого-то боитесь? у вас террабайты детской порнухи дома хранятся?!
Масссовая миграция в Россию представителей неславянских этносов и культур является угрозой национальной безопасности.
Результатом СВО должно стать существенное увеличение доли славянского населения в составе РФ.
  • +0.00 / 0
  • Комментировать
Брянский
 
russia
Томск
57 лет
Слушатель
Карма: +0.57
Регистрация: 04.02.2013
Сообщений: 8,700
Читатели: 5
Цитата: Sewer Endemic от 21.06.2016 00:35:02Угу, по сигейтам в последнее время всё ооочень печально. Те сигейты, которые HP, если б не предусмотрительно купленный пакет расширенной гарантии на эти харды, вообще стали бы настоящим бедствием. А так только регулярно по этой самой гарантии меняем. Блин, дорогущие SAS 10k дохнущие один за другим - это ж сюр какой-то! Одна радость, сервис у хьюлетов прекрасный, меняют по первому свистку...

лично мы предпочитаем поставлять сервера нашей сборки с HDD Toshiba
как SAS так и SATA
У меня к ним нет претензий...отказность мизерная ниже пол-процента за 3 года у SAS и процента 1-2 у SATA
Но и за HDD SAS Seagate я грехов никогда особо не замечал
15K 3.5" мы очень много продали и все хорошо
2.5" правда предпочитаем Toshiba и Hitachi продавать
Масссовая миграция в Россию представителей неславянских этносов и культур является угрозой национальной безопасности.
Результатом СВО должно стать существенное увеличение доли славянского населения в составе РФ.
  • +0.00 / 0
  • Комментировать
Брянский
 
russia
Томск
57 лет
Слушатель
Карма: +0.57
Регистрация: 04.02.2013
Сообщений: 8,700
Читатели: 5
Цитата: Superwad от 12.07.2016 11:08:49Ну так я тоже подпадаю под это, так как стер "красиву, гламурную, правильную и глючную виндовс 8.1", которая лицензионная и поставил дочке на ноут "страшный, отдающий терроризмом" российский дистрибутив линуксаУлыбающийся А так да, согласен с Вами, вот кроме Андроида - код в большинстве своём открытий и там сложно протянуть "закладочки", тем более не дай бог им там появиться, Андроид падем смертью храбрых перед мобильной версией Линукса, так как тот только и ждет. чтобы выйти из запасного тоннеля. Это моё личное мнение.

А зачем дочке на ноуте Linux?
Нахрена? Она у вас следственном комитете что ли работает?Смеющийся
Масссовая миграция в Россию представителей неславянских этносов и культур является угрозой национальной безопасности.
Результатом СВО должно стать существенное увеличение доли славянского населения в составе РФ.
  • +0.00 / 0
  • Комментировать
pkdr
 
russia
Слушатель
Карма: +86.82
Регистрация: 21.07.2014
Сообщений: 3,921
Читатели: 2
Цитата: Брянский от 20.07.2016 09:30:33Насчет невозможности восстановления тома после вылета сразу двух дисков из RAID 5, вы сильно заблуждаетесь..
вы просто некомпетентны в этом вопросе
Что касается бэкапа - тут вы правы асболютно

Я не заблуждаюсь, технология raid5 подразумевает устойчивость к выпадению одного из дисков (собственно, аббревиатура raid и подразумевает это - массив недорогих заменяемых дисков). То что чаще физически информация с дисков большей частью не исчезает и некоторыми способами её можно иногда восстановить - это 1) уже за границами парадигмы использования raid, 2) это уже извращение и свидетельство о ошибочном подходе к организации хранения информации
  • +0.00 / 0
  • Комментировать
pkdr
 
russia
Слушатель
Карма: +86.82
Регистрация: 21.07.2014
Сообщений: 3,921
Читатели: 2
Цитата: Брянский от 20.07.2016 09:36:11если вы в чем то не разбираетесь это еще не значит что это убожество..
у LSI есть возможность загрузить BIOS не в графическом, а в текстовом режиме.
из UEFI BIOS матери
вы не знали?Непонимающий

Можно, ну и что? Вы сейчас упорно пытаетесь рассказывать о том как хороша газель и как она легко может заменить фуры, контейнеровозы и карьерные самосвалы.

В любом случае, почему-то в энтерпрайзе LSI никто не использует, все серверы среднего уровня и выше от большой четвёрки производителей HP/Dell/IBM/Sun не используют LSI. И я тут совершенно согласен, ну уж очень неудобные инструменты у LSI, любая управлялка рейдом у них намного лучше и намного лучше приспособлена под массовое использование.
  • -0.01 / 1
  • Комментировать
pkdr
 
russia
Слушатель
Карма: +86.82
Регистрация: 21.07.2014
Сообщений: 3,921
Читатели: 2
Цитата: Брянский от 20.07.2016 09:46:16во третьих использование RAID 0 никак не может увеличить количество IOPS именно потому что поток транзакций читается сразу со всех HDD
А вот RAID 1 и RAID 10 на аппаратных контроллерах  могут увеличить IOPS вдвое - контроллер может распределять запросы на чтение по разным HDD потому что на них лежат полные и идентичные копии требуемых данных

Вообще-то ерунду пишете именно вы.
raid 0 вообще используется исключительно для повышения производительности, он практически удваивает iops, удваивается за счёт того, что информация пишется и считывается со всех HDD одновременно
raid 1 на запись ускорить ничего не может, так как идёт идентичная запись на каждый из дисков рейда, чтение удваивает
raid 10 ускоряет работу именно из-за того, что содержит в себе raid 0, так как raid 10 - это raid 0 из двух устройств raid 1, соответственно ускоряет запись в два раза и чтение в 4 раза по сравнению с одним диском

Разумеется, что увеличение будет не ровно в 2 или 4 раза, так как есть некоторые расходы ресурсов на работу самого рейда

Цитата: Цитатаво вторых RAID 0 никогда не используется в серверах и СХД

даже для SSD
они используется исключительно для записи видео, в серверах RAID 0 используется только в одном случае - когда SSD ставятся как кэш к тому из обычных дисков

Опять же неправда raid 0 используется там где нужно увеличить объём данных и скорость работы, но не критичен выход блочного устройства из строя
Я, например, использую raid 0 на ssd на серверах продакшен БД. А вот когда SSD используется как кеш для блочного устройства требующего отказоустойчивости, raid 0 из них можно делать только если кеш используется для чтения, если же кеш используется для записи то и кеширующий SSD должен быть в raid 1.
  • +0.01 / 2
  • Комментировать
pkdr
 
russia
Слушатель
Карма: +86.82
Регистрация: 21.07.2014
Сообщений: 3,921
Читатели: 2
Цитата: Брянский от 20.07.2016 09:52:05А нахрена вам домой ПК от МЦСТ

Я бы тоже купил за разумные деньги. Просто интересная игрушка.
  • +0.03 / 1
  • Комментировать
pkdr
 
russia
Слушатель
Карма: +86.82
Регистрация: 21.07.2014
Сообщений: 3,921
Читатели: 2
Цитата: Брянский от 20.07.2016 10:08:23А зачем дочке на ноуте Linux?
Нахрена? Она у вас следственном комитете что ли работает?Смеющийся

Может быть целая куча причин:

  • хочется иметь очень удобное для работы окружение

  • хочется иметь надёжную, устойчивую к вирусам и взлому ОС

  • не хочется платить за винду

  • нужно определённое ПО, которого нет в других ОС

  • дочке ставится та ОС, которую предпочтительнее поддерживать тому, кто поставил ей ОС

  • тысячи других причин

  • +0.01 / 2
  • Комментировать
pkdr
 
russia
Слушатель
Карма: +86.82
Регистрация: 21.07.2014
Сообщений: 3,921
Читатели: 2
Цитата: Брянский от 20.07.2016 10:14:15Назовите мне СУБД  которые могут масштабироваться  на кластер?

PostgreSQL, MySQL, DB2, Oracle, MS SQL, cassandra, mongodb, couchdb, redis, Neo4j, тысячи их...
Проще уж назвать не умеющие этого.
  • -0.01 / 1
  • Комментировать
kisur   kisur
  20 июл 2016 13:13:14
...
  kisur
Цитата: Брянский от 20.07.2016 09:46:16товарищ Power On
вы тут хрень написали
во первых вы путаете линейную скорость чтения и IOPS
сервера и схд линейная скорость чтения мало интересует
во вторых RAID 0 никогда не используется в серверах и СХД
даже для SSD
они используется исключительно для записи видео, в серверах RAID 0 используется только в одном случае - когда SSD ставятся как кэш к тому из обычных дисков
во третьих использование RAID 0 никак не может увеличить количество IOPS именно потому что поток транзакций читается сразу со всех HDD
А вот RAID 1 и RAID 10 на аппаратных контроллерах  могут увеличить IOPS вдвое - контроллер может распределять запросы на чтение по разным HDD потому что на них лежат полные и идентичные копии требуемых данных

Шокированный
Пойду проверю что там у мну на серваке (даже на двух, резервирование знаете ли)
Думающий странно 0+1
Ню ню спесиялизд жгите дальше Жующий попкорн
Отредактировано: kisur - 01 янв 1970
  • +0.01 / 2
  • Комментировать
Брянский
 
russia
Томск
57 лет
Слушатель
Карма: +0.57
Регистрация: 04.02.2013
Сообщений: 8,700
Читатели: 5
Цитата: pkdr от 20.07.2016 10:22:37Я не заблуждаюсь, технология raid5 подразумевает устойчивость к выпадению одного из дисков (собственно, аббревиатура raid и подразумевает это - массив недорогих заменяемых дисков). То что чаще физически информация с дисков большей частью не исчезает и некоторыми способами её можно иногда восстановить - это 1) уже за границами парадигмы использования raid, 2) это уже извращение и свидетельство о ошибочном подходе к организации хранения информации

не... вы просто не в курсеСмеющийся
Ну во первых как раз недорогие десктопные HDD в RAID массив ставить не нужно - замучаетесь пыль глотать
А во вторых - HDD из массива вылетают очень даже по разным причинам.
Ситуация когда HDD просто мертв это уж извините совсем клинические случай у олуха-сисадмина
Чаще всего HDD начинают вылетать по тайм-ауту (в курсе что это?)
при этом как вы понимаете с них можно считать почти всю записанную информацию
если вдруг у вас по тайм-ауту вылетели сразу два HDD из тома RAID 5 то вы можете (на правильном контроллере разумеется) ручками загнать обратно в online ПОСЛЕДНИЙ вылетевший HDD после чего можно запустить rebuild и загнать в обратно в массив второй HDD
Подмигивающий
(другое дело что такие HDD срочно нуждаются в замене... но пару неделек на них прожить можно ..)
обычно после такой процедуры том становиться доступным (надо еще файловую систему после этого почекать)
Точно так же поступаем если тома RAID разваливаются из-за глюков прошивок или неправильного выключения/включения внешней дисковой полки (те которые без своих контроллеров)
Отредактировано: Брянский - 20 июл 2016 13:36:03
Масссовая миграция в Россию представителей неславянских этносов и культур является угрозой национальной безопасности.
Результатом СВО должно стать существенное увеличение доли славянского населения в составе РФ.
  • +0.00 / 0
  • Комментировать
Брянский
 
russia
Томск
57 лет
Слушатель
Карма: +0.57
Регистрация: 04.02.2013
Сообщений: 8,700
Читатели: 5
Цитата: kisur от 20.07.2016 11:13:14Шокированный
Пойду проверю что там у мну на серваке (даже на двух, резервирование знаете ли)
Думающий странно 0+1
Ню ню спесиялизд жгите дальше Жующий попкорн

мда.. нубы отакуютБъющийся об стену

Ваши 0+1 это и есть RAID 10Смеющийся
"десятка"
Вы не знали?!Шокированный
Масссовая миграция в Россию представителей неславянских этносов и культур является угрозой национальной безопасности.
Результатом СВО должно стать существенное увеличение доли славянского населения в составе РФ.
  • +0.01 / 1
  • Комментировать
Сейчас на ветке: 5, Модераторов: 0, Пользователей: 0, Гостей: 0, Ботов: 5