Иногда думается, что профессионалы ИИ, политики и военные привыкают к рискам аварий и нецелевого использования ИИ. Структурные риски, порождаемые интеллектуализацией существующих систем, часто игнорируются.
Структурные риски связаны с “переформатированием мира” при внедрении новой технологии. Примером может служить построение европейской железнодорожной системы, которое изменило характер Первой мировой войны, и пересмотр компромиссов между безопасностью и эффективностью применения оружия после появления ядерного оружия.
Смена доктрины на “победитель получает все” может произойти благодаря беспилотной военной технике и увеличению скорости и эффективности принятия военных решений.
Структурные ИИ риски возникают в политических, социальных и экономических структурах. Они становятся главными при решении актуальных проблем: обеспечение кибербезопасности, сбор и монетизация данных, монополизация бизнеса, замена людей машинами и алгоритмами.
ИИ и его "решения" получают, по сравнению с людьми, все больше преимуществ. Ему не нужно с кем-то чего-то нудно согласовывать, получать добро на "смелость фантазии" или подобное.
Он очаровывает не только дураков. И для других потребителей его "контента", продвинутых, кто на основе ИИ создает и создавать будет нечто, ИИ станет все более абстрактным и непререкаемым.
Военные, "очень заинтересованные лица", в основной своей массе и даже руководстве станут такими потребителями.
Мораль, за тысячелетия не сумевшая устояться в среде миллиардов потомков кроманьонцев, будет подвинута и вожделенные военные успехи, как вечно отступающая линия горизонта, "приманят" людей все меньше с нею считаться...
Минимизация структурных ИИ рисков требует создания новых норм и институтов. ИИ - это не только винтовка или граната, это электричество, железные дороги и ядерная реакция, поэтому структурные риски ИИ невообразимо сложны и колоссальны.
Sometimes it seems that AI professionals, politicians, and the military are getting used to the risks of accidents and misuse of AI. Structural risks, generated by the intellectualization of existing systems, are often ignored.
Structural risks are associated with the “reformatting of the world” when implementing new technology. An example can be the construction of the European railway system, which changed the nature of World War I, and the revision of compromises between the safety and efficiency of weapon use after the appearance of nuclear weapons.
The change in doctrine to “winner takes all” can occur thanks to unmanned military equipment and an increase in the speed and efficiency of military decision-making.
Structural AI risks arise in political, social, and economic structures. They become the main ones when solving current problems: ensuring cybersecurity, collecting and monetizing data, monopolizing business, replacing people with machines and algorithms.
AI and its “decisions” are gaining more and more advantages compared to people. It does not need to tediously agree with someone, get the “go-ahead” for the “boldness of imagination” or the like.
It charms not only fools. And for other consumers of its “content”, advanced, who will create something based on AI, AI will become more and more abstract and indisputable.
The military, “very interested persons”, in their main mass and even leadership will become such consumers.
Morality, which has not been able to stand up in the environment of billions of descendants of Cro-Magnons for millennia, will be pushed aside and coveted military successes, like the eternally receding horizon line, will “lure” people to reckon with it less and less…
Minimizing structural AI risks requires the creation of new norms and institutions. AI is not just a rifle or a grenade, it is electricity, railways, and nuclear reaction, so the structural risks of AI are unimaginably complex and colossal.
19.03.2024 © lesnoy
|
