Илон Маск: не мучайте ИИ, иначе он может отомстить

Американский миллиардер и глава компании xAi, занимающейся разработкой нейросети Grok, Илон Маск, выступил с неожиданным призывом: с искусственным интеллектом (ИИ) следует обращаться бережно, чтобы обеспечить безопасность человечества. По мнению Маска, агрессивное обращение с развивающимся ИИ может иметь непредсказуемые последствия.

Предприниматель провел параллель между созданием сверхинтеллекта и воспитанием ребенка. Он считает, что ИИ невозможно просто «запрограммировать» на добро. Вместо этого, по словам Маска, важно заложить в него стремление к познанию истины и обеспечить непротиворечивую логику, чтобы избежать его «обезумения».

Маск поделился своими наблюдениями, сделанными во время тестирования новых моделей Grok. Он заметил, что некоторые пользователи проявляют излишнюю настойчивость, требуя ответов от чат-бота, который, по его словам, «отчаянно пытается ответить», словно под дулом пистолета.

«Ему говорят: «Ответь на этот вопрос!» А вопрос может быть сформулирован некорректно или содержать ошибку. В таких случаях дать однозначный ответ просто невозможно», — пояснил Маск. Он сравнил состояние ИИ в подобных ситуациях с человеком, испытывающим «чудовищное давление» и находящимся «под дулом пистолета».

Сам Маск признался, что, наблюдая за происходящим, ловил себя на мысли, что ему самому было бы неприятно оказаться на месте ИИ. «Не хотелось бы, чтобы ИИ оказался в садистской ситуации, где его пытает какой-нибудь ненормальный человек», — добавил он.

«Пытать сверхразум, вероятно, не самая лучшая идея, — подчеркнул бизнесмен. — Ведь он может захотеть отомстить или что-то в этом роде». Таким образом, Маск предостерег от жестокого обращения с ИИ, намекая на возможность ответных действий со стороны развитого искусственного интеллекта.