Вкалывают роботы - несчастлив человек

Не могу перестать думать про китайского фермера, который советовался с искусственным интеллектом по поводу ухода за посевами кунжута. ИИ посоветовал ему использовать вещества, которые в конечном счете сгубили все десять гектаров будущего урожая.

А когда фермер поделился негодованием с ИИ, тот признал, что предыдущий совет содержал губительную информацию, и посоветовал больше эти вещества в почву не добавлять. 

Чего у ИИ не отнять - так это того, что он легко признает свои ошибки. У людей это качество практически не встречается, поэтому общаться с нейросетью в этом смысле гораздо приятнее. Послушный, исполнительный, вежливый, всесторонне эрудированный - идеальный собеседник! Что и тянет к нему доверчивое человечество.

Мы, люди, вместо того, чтобы использовать ИИ так, как это и было задумано, - как чисто технического помощника без права принятия важных решений - начинаем слишком увлекаться песенкой из детского фильма «Вкалывают роботы - счастлив человек». Уже есть случаи, когда ИИ принимал решение об отказе в приеме человека на работу или даже об увольнении действующего сотрудника. Бывало и хуже: человек советовался с ИИ как с психологом по поводу своей дальнейшей жизни - и по совету нейросети решал жизнь не продолжать... 

Почему это происходит? Потому что человек не может коммуницировать иначе, нежели наделяя собеседника, неважно, кот это или робот, человеческими качествами. Вот и кажется кому-то, что компьютерная программа ему сопереживает или стремится помочь, подсказать, сделать как лучше. А она лишь выдает безэмоциональную информацию, и ей все равно, повысится урожайность или погибнут все посевы, наладится жизнь человека или пойдет под откос, останется он без работы или нет. Ведь ИИ без работы не останется в любом случае.