Самакіруючыяся аўтамабілі пачынаюць забіваць людзей. Што будзе далей?
Сто мільёнаў. Столькі міль, у сярэднім, праязджае кіроўца-чалавек, перш чым забіць кагосьці на дарозе. Такую ж колькасць міль полуаўтаномны “Аўтапілот” Тэсла праедзе да мая гэтага года. Мяркуючы, што “Аўтапілот” раскачае масавы рынак Трэцяй мадэлі Тэсла ў 2017, лік хутка пойдзе на мільярды. Мэрсэдэс укараніць падобныя сістэмы ў свой Е-клас, пакуль цалкам аўтаномныя аўтамабілі Google праедуць яшчэ 1.6 млн міль.
Па меры таго, як расце колькасць міль, скарачаюцца шансы. У нейкі момант аўтамабілі, ездзячыя аўтаномна або паў-аўтаномна, пападуць у ДТЗ са смяротным сыходам. Калі іх прадуктыўнасць аддалённа супастаўная з чалавецкай, гэты момант можа надыйсці ў наступныя 18-24 месяцаў. Калі так, то, па законе сярэдніх, гэта здарыцца з Трэцяй мадэллю Тэсла. Беспілотныя аўтамабілі хутка могуць атрымаць свой “момант Дыскрол”.
У 1896 годзе Брыджэт Дыскрол наведвала гадовае свята ў Хрустальным палацы ў Лондане, калі аўтамабіль, які рухаўся з “вялізарным тэмпам”, недзе каля максімальнай хуткасці ў 8 міль у гадзіну, ударыў і забіў яе. Яна стала першай жэртвай аўтамабільнай аврыі ў Брытаніі (Злучаным Штатам спатрэбілася тры гады, каб нагнаць — няшчасны пенсіянер быў скошаны бясконным таксаматорам у Нью-Йорку толькі ў 1899 годзе).
Гэта не выклікала асаблівай рэакцыі. Парламент толькі што прыняў закон аб павышэнні ліміту хуткасці да 14 міль у гадзіну і падняў яе зноў да завоблачных 20 міль у гадзіну ў 1903. У 1930, негледзячы на штогадовую колькасць смерцяў, што пайшла на тысячы, ліміт быў цалкам выдалены. Лорд Бакмасцер патлумачыў, чым кіраваліся ў Палаце Лордаў праз два гады:
“Дастаткова сказаць, што прычына, па якой абмежаванне хуткасці было адменена, не ў тым, што нехта думае, нібыта гэта прывядзе да большай бяспекі пешых пасажыраў, а ў тым, што існуючае абмежаванне настолькі ўніверсальна ігнаравалася, што яго змест стаў сімвалам непавінавення закону”.
Ці будуць сёння заканадаўцы і рэгулятары настолькі ж змякчэлымі? Аварыі пачынаюцца. У Дзень Святога Валенціна Google дасягнулі важнай вехі ў развіцці беспілотных автамабіляў – першага ДТЗ.
“14 лютага наш аўтамабіль ехаў аўтаномна і перастроіўся ў правы бок каля абочыны, каб падрыхтавацца да правага павароту. Затым ён выявіў мяшкі з пяском каля ліўневай каналізацыі, якія блакавалі яго шлях, так што неабходна было спыніцца. Пасля чакання, пакуль праедуць іншыя транспартныя сродкі, наш аўтамабіль пачаў паварочвацца назад да цэнтра завулка з хукасцю каля 2 міль у гадзіну – і дакрануўся да бока праязджаючага аўтобуса, які рухаўся з хуткасцю 15 міль у час. Наш аўтамабіль заўважыў аўтобус, але вырашыў, што ён нас прапусціць, бо мы былі наперадзе”.
“Наш тэсціроўшчык, які назіраў за аўтобусам у люстэрка, таксама чакаў, што ён спыніцца або паменшыць хуткасць. Можна ўявіць, што кіроўца аўтобуса выказаў здагадку, што мы не будзем рухацца. На жаль, усе гэтыя здагадкі прывялі нас да інцыдэну ў завулке.”
Не жадаючы адставаць, Тэсла прадэманстравала ўласныя ляпы. Адзін кіроўца здолеў сутыкнуць сваю машыну з фургонам, у той час як іншы засняў момант, у які яго аўтамабіль сутыкнуўся з фургонам, прыпаркаваным – смешна – у хуткаснай паласе аўтамабільнай дарогі.
Даволі вялікі кантраст у падыходах Google і Тэсла. Аўтамабілі Google павольна катаюцца па гарадскіх вуліцах – стратэгія, якая падвяргае іх большай рызыцы і нявызначанасці, але таксама гэта значыць, што любыя нашчасныя выпадкі верагодна будуць звязаны не больш чым з ляжачымі паліцэйскімі і драпінамі. Тады як Тэслы самастойна ездзяць на высокай хуткасці па аўтастрадах, што нашмат лепей для асяроддзя, але можа выклікаць больш сур’езныя наступствы.
Таксама ў гэтым ёсць і чалавечы фактар. Аўтамабілі Google сапраўды самакіруюцца і створаны такім чынам, каб чалавецкае ўмяшанне не патрабавалася. Тэслы зроблены па-іншаму, але тэхналогія досыць добрая, каб кіроўцы адчувалі сябе так, быццам іх няма. Гэта прыводзіць да самазаспакоенасці, як вызначылі ў выніку кіроўцы ў другім здарэнні вышэй. “Так, я мог адрэагаваць раней, але калі аўтамабіль запавольваецца правільна 1000 разоў да гэтага, вы верыце, што ён зробіць гэта зноў. Мая памылка”.
Нешта падобнае мы бачылі ў другой галіне – авіяперавозках. У 2009 годзе Air France Flight 447 упаў у Атлантычны акіян з 228 людзьмі на борце. Эсэ Уільма Лангуайша пра трагедыю, надрукаванае ў 2014 годзе – адзін з лепшых тэкстаў, што калі-небудзь былі напісаны пра аўтаматызацыю. Яно таксама з’яўляецца праверкай ідэі аб тым, што кіроўцы аўтаномных транспартных сродкаў маглі б проста ўмяшацца ў выпадку аварыі.
AF447 быў страчаны пасля таго як паслядоўнасць падзей, у якіх датчыкі не спрацавалі, вызвала адключэнне аўтапілоту, а таксама змяніла сістэму кіравання палётам на рэжым, які пакінуў пілота і яго памошніка безнадзейна заблытанымі. Самапісцы захавалі іх жудасныя штурханні: “Мы цалкам страцілі кантроль над самалётам і нічога не разумеем! Мы выпрабавалі ўсё!”
Аварыя распачала шмат спрэчак наконт пілотаў, аўтапілоту і аб тым, як яны ўзаемадзейнічаюць адно з іншым; у прыватнасці, ці праўда, што залежнасць ад тэхналогій прыводзіць да з’яўлення менш вопытных, а такім чынам і менш здольных да кіравання пілотаў. Як выказаўся Лангуайш: “Аўтаматызацыя зрабіла найбольш малаверагодным, што звычайныя пілоты калі-небудзь сутыкнуцца з крызісам у палеце, але яшчэ больш малаверагодна, што яны змогуць справіцца з такой праблемай, калі яна ўзнікне”.
Урок тут у тым, што для самалётаў, цягнікоў або аўтамабіляў адзін плюс адзін не раўно двум. Калі скамбініраваць аўтапілот з добрым кіроўцам, вы атрымаеце аўтапілот калі не з дрэнным кіроўцам, то і не з самым лепшым. Пытанне заключаецца ў тым, ці ўзгадняецца або пераадольваецца зніжэнне працаздольнасці чалавека тымі паляпшэнямі, што дае камп’ютар. Выпадак з самалётам даказаў, што такія здарэнні падштурхнулі прамысловасць да надання камп’ютару большай улады, а не наадварот. Пілоты ўсё больш становяцца разявакамі і кантралёрамі, а не практычнымі кіроўцамі.
Што тычыцца аўтамабіляў, Тэсла і іншыя стварылі тое, што з’яўляецца адным з найвялікшых эксперыментаў узаемадзеяння чалавек-камп’ютар у свеце, каб высвятліць мыгчымасць праверкі новых рэжымаў кіравання і алгарытмы для недасведчаных кіроўцаў, якім не хапае практыкі. Струменева перадаюцца дадзеныя з тысяч аўтамабіляў назад у воблака для аналізу.
Гэта эксперымент, які пакінуў рэгулюючыя органы, такія як Нацыянальная асацыяцыя бяспекі дарожнага руху ЗША, караскацца ў спробах дагнаць прагрэс, без выразнага адказу на пытанні кшталту: “як вы збіраецеся правяраць гэтае праграмнае забяспячэнне?”. Пакуль яны гэта робяць, верагодна, тэхналогія будзе існаваць як прызнаны факт жыцця, яе бяспека будзе ўспрымацца як незалежная ад спажыўцоў, а яе памылкі будуць спісаны на схільных да іх чалавецкіх майстроў.
Калі гэта так, то першая смерць ад “рукі” аўтамабіля з самастойным кіраваннем можа мець амаль той жа эфект як скон Брыджыт Дрыскол, якому споўніцца 120 год гэтым летам: амаль ніякага.
Апублікавана ў The Guardian ў красавіку 2016
Спадабалася? Пакінь каментар