Віталік Бутерін: ШІ знає багато, але судить поверхнево
Співзасновник Ethereum Віталік Бутерін заявив, що ШІ надзвичайно обізнаний, але не має судження, тож лише поверхнево оцінює, яку думку несе текст. Коментар він залишив на платформі X у дискусії про те, чи можна ставити чат-боти нарівні з найкращими людськими читачами.
Де Бутерін провів межу між знаннями і мудрістю
Бутерін вважає, що ШІ здатен розпізнати посилання практично на будь-що, але його судження про сенс тексту залишаються поверхневими. Він наголосив, що це особливо помітно, коли модель аналізує саме письмовий текст.
На його думку, виміряти обсяг знань моделі значно простіше, ніж оцінити її мудрість. Мудрість складно перевірити за змістом відповіді.
Ця проблема посилюється, коли модель стикається з новим текстом. Для широко відомих творів у навчальних даних уже є людський аналіз і контекст, тож модель спирається на готові інтерпретації.
Дискусія почалася з гарвардського курсу без чат-ботів
Поштовхом стало повідомлення Wall Street Journal про курс Humanities 10, який входить до програми для першокурсників Гарварду і орієнтований на гуманітарні дисципліни. За уривками, опублікованими в X, на цю осінь кількість заявок зросла на 40 %: 180 студентів змагалися за 90 місць.
- Студенти щотижня читають великі обсяги книжок.
- Електронні пристрої на заняттях суворо заборонені.
- Частина вступників хоче протиставити ШІ-швидким підходам класичне навантаження без технологічних скорочень.
Один із користувачів вважав, що мовні моделі перевершують людину як співрозмовники з класичних дисциплін, бо «читали все». Письменниця заперечила і назвала зворотний зв'язок чат-ботів щодо її есеїв низькоякісним.
Ширший контекст позиції Бутеріна
Скептицизм Бутеріна щодо ШІ не є разовою думкою. Раніше він заявляв, що розвиток ШІ протягом найближчих двох років здатен підірвати ключові механізми криптографічної безпеки. Він також представив так званий «параноїдальний режим» для ШІ у чатах.
Не всі поділяють таку оцінку. Деякі інвестори стверджують, що штучний інтелект уже перевершує видатних фахівців у математиці.
Що це означає для крипторинку
Криптотрейдери і команди проєктів дедалі частіше доручають ШІ обробку whitepaper, пропозицій щодо управління та аудит. Від цього залежать швидкі рішення, тому поверхневий аналіз може призвести до пропуску прихованої вразливості в смартконтракті або нюансів емісії токена.
Зіставити фактичні дані з першоджерелом просто, а судження про новий, раніше не аналізований текст залишаються ненадійними. Тому, за логікою Бутеріна, людська перевірка лишається обов'язковою, зокрема в підтримуваній ним моделі ШІ з обмеженням злому.
Примітка редакції: Зростання заявок на курс на 40 % і співвідношення 180 студентів до 90 місць наведені за уривками, опублікованими в X.
Часті питання
Чому Віталік Бутерін вважає ШІ не мудрим?
Бутерін каже, що ШІ добре розпізнає посилання на будь-що, але його судження про сенс тексту поверхневі. Мудрість, на його думку, складно перевірити за змістом відповіді, а новий текст модель часто аналізує без людського контексту, який є для відомих творів.
Що таке курс Humanities 10 у Гарварді?
Це складова програми для першокурсників Гарварду, орієнтована на гуманітарні дисципліни. Студенти щотижня читають великі обсяги книжок, а електронні пристрої на заняттях заборонені. За уривками, опублікованими в X, заявок стало на 40 % більше: 180 студентів змагалися за 90 місць.
Чи можна довіряти ШІ аналіз whitepaper криптопроєктів?
Поверхневий аналіз ШІ може не помітити прихованої вразливості в смартконтракті або нюансів емісії токена. Бутерін вважає, що фактичну інформацію порівняти з джерелом просто, а судження про новий текст лишаються сумнівними, тому потрібна людська перевірка.
Чи погоджуються з Бутеріним інвестори щодо можливостей ШІ?
Не всі. Деякі інвестори наголошують, що штучний інтелект уже перевершує видатних фахівців у математиці. Бутерін раніше заявив, що розвиток ШІ протягом найближчих двох років здатен підірвати ключові механізми криптографічної безпеки.
Раніше ми писали
Джерела
