Топ 20: Дизайн и программирование которые привели к смерти

Подборка из 20 неопровержимых фактов, когда программирование или дизайн, привели к гибели людей.

Первая жертва беспилотного автомобиля

Топ 20: Дизайн и программирование которые привели к смерти


1. Элаи Херцберг попала в историю, как первый человек который погиб под колесами беспилотного автомобиля. Весной 2018 года в темное время суток, машина Uber засекла преграду, в начале подумав что мусор, потом что животное, и только за пару метров поняв что это человек.
К сожалению машина не успела затормозить, что привело к смерти человека. Тестирование проходило на модифицированном Volvo XC90, у которой была отключена система экстренного торможения, чтоб не мешать ПО Uber управлять машиной. Не может быть два короля в одном королевстве. Задача тормозить в экстренных случаях была положена на плечи водителя, который страховал автопилот. Он же в это время смотрел сериал на Netflix.

Аппарат Therac-25

Топ 20: Дизайн и программирование которые привели к смерти


2. Аппарат Therac-25 стал самым резонансным случаем в истории программирования для медицинских девайсов. В силу ошибки race condition, при быстром переключении режимов работы девайсов между магнитным и рентгеновским заслонка для рентгеновских лучей не успевала установиться.
Из-за этого у 10 пациентов диагностировали лучевую болезнь, что привело к смерти, или ампутации зараженных частей тела.

Часовые пояса и ПВО Patriot

Топ 20: Дизайн и программирование которые привели к смерти


3. 25 февраля 1991 года установка ПВО Patriot не смогла перехватить ракету пущенную со стороны сил Саддама Хусейна которая попала в барак солдат США, и что привело к 28 смертям.
Расследование показало, что 24 битные процессоры перехватчика при переводе времени совершают ошибку. в 0.013 секунды каждый час. Patriot не перегружали более 100 часов, что привело к ошибкам вычисления положения ракеты на 600 метров. Вот уж где перезагрузка бы спасла жизни.

Антон Ельчин и электронный ручник

Топ 20: Дизайн и программирование которые привели к смерти


4. В 2016 году, актер Антон Ельчин был раздавлен собственной машиной при въезде домой. Антон многим запомнился как актер игравший навигатора Чехова в полнометражках Start Trek.
Причиной смерти послужил не интуитивный дизайн ручки передач представленный Jeep в новых моделях машин. В отличии от стандартных ручек передач, где положение ручки показывает режим работы двигателя, у новых ручек — местоположение выбиралось скорее как рычажок в меню. Антон вместо паркинга, выбрал нейтральное положение, от чего машина скатилась и задавила не внимательного хозяина.

Распределения маршрутов скорой помощи

Топ 20: Дизайн и программирование которые привели к смерти


5. В 1992 году ошибки системы распределения маршрутов в Лондонской скорой помощи привели к смерти 30-45 человек ( разброс большой, потому что не ясно, смогла бы скорая спасти человека ). Все произошло, когда в Лондоне решили заменить людей операторов на компьютерную систему.
В результате система была введена в эксплуатацию без нагрузочного тестирования и с 81! известным багом. Добавьте к этому еще и то, что интегратор решил сэкономить, и купил дешевое оборудование, которое сломалось через пару часов после активного пользования системой. Хаос был настолько безумным, что бывали случаи, когда человек не дождавшись скорой умирал, его увозили в морг, и только тогда приезжала скорая.

АЭС в Пенсильвании

Топ 20: Дизайн и программирование которые привели к смерти


6. 1979 год, Пенсильвания чуть не стала местом еще одного Чернобыля, и стала самым большим прецедентом в истории атомной энергетики в США. Внешний дизайн датчиков системы был настолько плохо продуман, и был расположен по кругу комнаты, что смена которая следила за состоянием не заметила всех показателей, который указывали на то, что есть утечка, и значение температуры реактора приблизилось к критическому значению. Ситуацию спасла следующая смена, которая выходила на вахту, и начинала считывать показания датчиков. Чтоб считать показатели, надо было пройти по круглой комнате, и отдельно смотреть на каждый показатель во многих разных местах. Утечку нашли, реактор отключили, но еще 14 лет проводили очистные работы на территории. Это стало поводом огромных анти-атомных митингов, и очень поменяло общественное мнение про «мирный атом»

Неудачный дизайн приборной панели

Топ 20: Дизайн и программирование которые привели к смерти


7. 1992 год, самолет под управлением опытной команды потерпел крушение возле Страсбурга. 87 из 92 человек погибли. Анализ черного ящика показал, что опытные пилоты перепутали настройки авто-пилота: угол и скорость снижения. Дизайнер приборной панели очень стремился сэкономить место, и расположил эти два индикатора друг возле друга. При том, что даже не смотря на то, что единицы измерения совершенно разные ( пилоты хотели задать 3.3 градуса спуска а задали 3300 фунтов в минуту) Но для экономии места, оба показателя показывались как 3.3. Кому в голову прийдет показывать 3300 как 33?

Станислав Петров спас мир сделав НИЧЕГО

Топ 20: Дизайн и программирование которые привели к смерти


8. Станислав Петров, в 1983 году спас мир сделав НИЧЕГО. Станислав Петров во время разгара холодной войны между США и СССР служил в штабе анти-ракетной обороны. Так как две страны обладали атомным оружием, между ними была заключена доктрина полного уничтожения, что значило, что только одна ракеты полетит со стороны одной страны в другую — другая может ответить как хочет. Грубо говоря — начало третьей мировой.
Станислав Петров в 1983 году как раз наблюдал за системой раннего обнаружения ракетного удара. И как же он удивился, когда увидел на экране 5 ракет, которые летели со стороны США в сторону СССР. По всем правилам Петров должен был отдать указания полномасштабного ракетного удара по США. Но, как она дальше сказал: «У него была чуйка». Он решил что нападать на СССР всего лишь 5 ракетами — не логично, и решил подождать.
Внезапно ракеты пропали, он сделал рапорт. Расследование определило, что эти 5 ракет — edge case того, как лучи солнца падают на спутник на орбите Молния. Таким образом, Петров, не сделав ничего подарил нам с вами мир, в котором мы живем. Хотя злые языки говорят что он был в стельку пьян в этом время, что не отменяет того, что даже пьяным ты можешь спасти миллиарды.

Дизайн медецинской системы

Топ 20: Дизайн и программирование которые привели к смерти


9. Пациентка Jenny (имя заменено в репортах) погибла от обезвоживания после химиотерапии. Причина оказалась до ужаса идиотской: дизайн медицинской системы был настолько плох, что опытные медсестры просто не заметили пункта который говорил что для этого пациента необходимо вводить дополнительные элементы сразу после операции.

Неудачный дизайн упаковки

Топ 20: Дизайн и программирование которые привели к смерти


10. Шестеро велосипедистов сошли с дистанции гонки в Осло в 2014-ом году. Обнаружилось, что велосипедисты упились жидкостью для мытья пола, решив что это энергетик. Дизайн упаковки — тоже дизайн.

Программная ошибка автопилота

Топ 20: Дизайн и программирование которые привели к смерти


11. 1994 год, борта авиакомпании China Arilines потерпел крушение, унеся жизни более чем 250 человек. При приземлении второй пилот случайно включит автопилот, который начал вносить коррективы в действия пилотов. При снижении пилоты заметили это, и смогли выключить автопилот, но к сожалений рассинхронизация действий людей и авто-пилота привело к крушению. При расследовании так же была найдена ошибка, патч для которой уже был написан, и борт который потерпел крушение был запланирован на апдейт системы сразу после окончания рейса, который к сожалению так и не закончился удачно.

Потеря 460 миллионов долларов за 45 минут

Топ 20: Дизайн и программирование которые привели к смерти


12. Knight Capital в свое время перепутали деплои, и вместо тестового енва, задеплоили новую версию на продакшен. Тратя, как система думала, виртуальные доллары — Knight потеряли 460 миллионов долларов за 45 минут. Скидывались на спасение Knight всем селом.

Ошибка софта по контролю топлива в двигателях

Топ 20: Дизайн и программирование которые привели к смерти


13. 2015й год грузовой самолет испанских военно воздушных сил потерпел крушение около Севильи. Airbus после этого случая отозвали все самолеты A400, на проверку, потому как авария были причинена ошибкой ПО, что унесло жизни 4х человек. Причина заключалась в новой версии софта по контролю топлива в двигателях. Система топливо подавала, но очень медленно, от чего 3 их 4х двигателей отключились.

Метрическая и имперская системы

Топ 20: Дизайн и программирование которые привели к смерти


14. 1998 год, один из спутников Nasa отправленный на Марс, достигнув орбиты красной планеты взорвался. Проблема — ошибка в двух модулях ПО спутника: один ждал данные в метрической системе, а другой отдавал в имперской:) Не додебажили на 327 лямов.

Системная ошибка F-14

Топ 20: Дизайн и программирование которые привели к смерти


15. Один из самолетов F-14 разбился в следствии того, что в системе случилась системная ошибка, но программист не обернул ее в catch, что привело к полному отключению бортового компьютера. Пилот катапультировался, но самолет конечно же не спасли.

Взрыв газа в СССР

Топ 20: Дизайн и программирование которые привели к смерти


16. Случай кибервойны, или взрыв который было видно из космоса. В 1982 ЦРУ внедрило шпиона в Канадскую фирму по разработка софта для газопроводных систем, потому как знали что этот софт будет использован СССР. И они использовали. Программист-шпион написал такие методы, что в 1982м году газопроводная труба взорвалась так сильно, что взрыв можно было наблюдать из космоса. К счастью никто, кроме оленей не пострадал.

Не та версия ПО

Топ 20: Дизайн и программирование которые привели к смерти


17. Ариана 5, разработкой которой стоила около 8! миллиардов долларов, должна была вывести на орбиту несколько спутников и другого оборудования. Полет ракеты завершился через 4 секунды после взлета. Она упала. Причиной послужило то, что один из модулей системы попытался сконвертировать 64 битное число в 16-битное. Оно оказалось больше, чем влазило в память, и модель завалился! Но ведь есть дублирующий модуль, которому было передано управление. На котором была та же версия ПО. Которая попытался сделать то же самое.

Ошибка системы «Свой — Чужой»

Топ 20: Дизайн и программирование которые привели к смерти


18. 1982й год, миноносец морских сил Великобритании, был поражен ракетой выпущенной с самолета принадлежавшего Аргентине. Противоракетная система не сработала, погибло 28 человек. Во время постройки, произошел взрыв, и погибло два строителя. Поврежденная часть корабля была заменена на часть с идентичного аргентинского корабля. Когда система обнаружила ракету, она провела проверку на свой-чужой. А так как часть корабля была аргентинская, ракета была определена как своя :) После чего противоракетная оборона не сработала, потому как ожидало что ракета пролетит. Но нет.

Ошибки в системе управления двигателями

Топ 20: Дизайн и программирование которые привели к смерти


19. 1994 год, вертолет модели Chinook разбился, даже не смотря на управление очень опытным пилотом, что привело к гибели 29 человек. Расследование очень долго пыталось скинуть всю вину на пилота, но в результате были найдены ошибки в системе управления двигателями, а так же проблемы работы датчика высоты с одновременно включенным радио вертолета. А мне не верили что в Samsung компанс со спотифай не работает:)

Смены часового пояса и самолет F-18

Топ 20: Дизайн и программирование которые привели к смерти


20. Новейший на то время самолет F-18 превращался в тыкву, когда перескал зону смены часового пояса меняющий день ( к примеру полет с Гаваев в Японию ). Система не расчитывала что может попасть в прошлое, потому 127 миллонный самолет мог упасть в любой момент. Благо помогал ресет

Автор текста: ©Я есть XSLT
Изображения: — интернет

Опубликовать в Фейсбук  Опубликовать в Google plus  Опубликовать в Вконтакте  Добавить в Twitter  Поделиться в Одноклассниках 
Загрузка...

Добавить комментарий

logo
Авторизация
*
*
Регистрация
*
*
*
Генерация пароля