Алгоритмы нивелируют человечество по большинству

В прошлогоднем интервью обладатель медали Филдса (это для математика как Нобелевская премия, только престижнее, так как присуждается раз в четыре года) Андрей Окуньков очень ясно поясняет, почему угроза роботизации, а вернее — алгоритмизации человеческого общества существует, но, при этом, не является опасностью для человека мыслящего.

Андрей Окуньков говорит о том, что нейронная сеть, являющаяся в настоящее время основой наиболее продвинутых алгоритмов, — это механический аналог не интеллекта, действующего через умозаключения, но той части мозга, которая отвечает за чутьё, интуицию. Именно эту аналогию я пытался когда-то нащупать, рассуждая о том, что угрозу человечеству несут не роботы.

Нынешнее время несёт угрозу человечности, но её источник — не роботы и не алгоритмы сами по себе. Тем не менее алгоритмизация, конечно же, не нейтральна в отношении бытия человеческого общества. Андрей Окуньков обращает внимание на то, что нейросеть, алгоритмы, которые «правят миром и от этого неуютно», нивелируют человечество по большинству. Именно по этой причине нейросеть не заменит учёных, ибо «учёный должен искать те редкие исключительные случаи, которые открывают путь к более глубокому уровню понимания».

Но именно по этой же причине «неуютно от того, что алгоритмы правят миром». И дело не только в том, что решения принимаются алгоритмами непрозрачно и безапелляционно. А от того, что, к примеру, судебное решение, принимаемое по усредненному принципу, не может быть справедливо или милосердно в принципе. Ибо справедливость предполагает, в том числе, милосердие. А милосердие — это не про машины.