Цитата:
|
Сообщение от ptzmies
Не делай из меня старовера и луддита. Я не против роботизации, я только за. Я за ограничение возможности саморазвития ИИ. А лучше вообще исключить такую возможность.
|
До саморазвития нам ещё пилить и пилить, хотя технологии генеративных состязательных сетей вполне себе неплохие результаты демонстрируют. Дабы не уходить в терминологию, на примере - это когда одна нейронная сеть состязается с другой, например играя в шахматы, учится на ошибках, самообучается, и играет ещё лучше; после каждой партии "мозг" проигравшей заменяется "мозгом" победителя, и таких партий играются тысячи в час, пока комп не приобретает способность суперчемпиона. Именно так обучился комп, обыгравший чемпиона в Го, игру, которая не поддавалась программированию из за огромного количества вариантов. Чемпион после проигрыша сказал, что не будет больше играть с компом ни за что ))) Так можно научить многому, в том числе "управлять миром".
Пока что самый мощный суперкомп не может симулировать "мозг" дождевого червя. Так что эволюционировать ещё относительно долго, а за это время успеют напридумывать и законов, и технологий, не допускающих ИИ к стратегическим решениям, типа запуска ракет. |
