Специалисты Пекинской академии искусственного интеллекта объявили о создании генеративной нейронной сети глубокого обучения Wu Dao 2.0 с рекордными свойствами. Её мощность намного больше, чем у ближайших конкурентов — Open AI GPT-3 и Google Switch Transformers. Об этом сообщает издание Engadget.
Мощность нейросетей условно измеряется в количестве параметров обучения. То есть, это число факторов, которые нейросеть может использовать в процессе своей работы. Для примера: в линейном уравнении y = ax + b параметрами выступают переменные a и b — от них зависит решение уравнения. Чем больше параметров использует нейросеть, тем она «умнее» и тем точнее результат её работы.
Нейросеть Open AI GPT-3 использует 175 миллиардов параметров — такая мощность позволяет ей генерировать осмысленные тексты, создавать музыку и программный код.
Количество параметров Wu Dao 2.0 превышает 1,75 триллиона — то есть, она в 10 раз мощнее, чем GPT-3. С новой китайской нейросетью по числу параметров может сравниться только Google Switch Transformers с её 1,6 триллионами параметров. Нейросеть от Google способна подбирать пропущенные слова в тексте и формулировать «естественные» ответы на вопросы человека.
Новая китайская нейросеть мультимодальна — она может выполнять множество разнородных задач. Wu Dao 2.0 пишет эссе, стихи и двустишия на традиционном китайском языке, распознаёт изображения и генерирует их по словесному описанию, имитирует речь, создаёт кулинарные рецепты, а также предсказывает трёхмерную структуру белков, подобно AlphaFold.
Для обучения Wu Dao 2.0 учёные использовали почти пять терабайтов изображений и текстов, включая 1,2 терабайта текстов на китайском и английском языках. Разработкой уже заинтересовались 22 компании, включая Xiaomi.
По словам председателя академии, Wu Dao 2.0 — это «источник питания для будущего реального искусственного интеллекта, с мегаданными, вычислительной мегамощью и мегамоделями».
>175 миллиардов параметров
Перечисли их, а то пока выглядит как маркетинговая хуета
Да да, мы уже десяток лет слышим про успешные квантовые компьютеры, про нейросети которые заменяют человека, но вот на деле пока ничего стоящего
У пикчи 512x512 = 262144 параметров которые передаются нейросети на распознавание, чем больше параметров сеть может обработать(и "запомнить") тем она мощнее
Речь наверняка идёт о высоком разрешении данных, для любого типа медиа которые ей можно скармливать
только в статье ни слова о железе, новая элементная база будет куда большим прорывом, чем йоба-нейросети, в этом смысле софт масштабировать куда проще чем железо
Ну так они давно заменяют человека
У тебя сейчас весь банкинг, логистика, бюрократия и связь держится на вычислительной технике
Если бы сообщения доставлял почтальон, а задачу коммивояжёра решали на бумажке, ты бы жил в веке 18
>позволяет ей генерировать осмысленные тексты, создавать музыку охуенно, не зря на это говно денеги выкинули.
Ебать я загринтекстил все, ну и похуй
Че ты хочешь услышать?Ну прикольно, китайцы молодцы.
так че толку то пиздеть об этом. сколько не пизди нихуя не изменится, великие корпорации олигархи власть будет делать то что захочет и нихуя ты не сделаешь.
только помощь днарей друг другу, богатые бедным вот что единственное важное. но сам двачеры этого не хотят, так что мы обречены.
>параша третьего мира
>могут сломать и возвести мост за ночь
>города меняются с оверохуительной скоростью
>имеют самый высокотехнологичный город
>имеют все доступные сервисы для комфортной жизни, переиграв на этом поле вообще всех и полностью управляя своей жизнью в телефонах и гаджетах
>огромный дроч на технологии, имеют ведущие корпорации в мире и даже производят годные автомобили
>огромное трудолюбие и дисциплина
>в любой всемирно известной корпорации, где бы она ни находилась, есть китайцы
Мань, 90-е давно кончились. Когда-то китайцы и ездили на правах гастеров, но как только партия свистнула и дала возможности для бизнеса - всех как ветром сдуло и теперь Китай бурно развивается, причем настолько бурно. что за этим сложно уследить.
Пиздёжь!
>банкинг, логистика, бюрократия и связь держится на вычислительной технике
Только не имеет никакого отношения к нейросетям и суперкомпьютерам
>Мощность нейросетей условно измеряется в количестве параметров обучения.
щас буит ответ.
эм. 1.7 триллиона параметров.........................
это 1.5 миллиона нейронов. Образующих между собой 2 триллиона связей.
Но у человека 100 млрдов нейронов..............
Тоесть мы смоделировать мозг таракана, у которого 2 млн нейронов...
найс. если нужн будет более подробный ответ
Список животных по количеству нейронов.
https://ru.wikipedia.org/wiki/%D0%A1%D0%BF%D0%B8%D1%81%D0%BE%D0%BA_%D0%B6%D0%B8%D0%B2%D0%BE%D1%82%D0%BD%D1%8B%D1%85_%D0%BF%D0%BE_%D0%BA%D0%BE%D0%BB%D0%B8%D1%87%D0%B5%D1%81%D1%82%D0%B2%D1%83_%D0%BD%D0%B5%D0%B9%D1%80%D0%BE%D0%BD%D0%BE%D0%B2
Протеины были вычислены, как ни странно, нейросетями.
>>249138311
>>249138556
А знаешь сколько потенциальных комбинаций связей между нейронами?
2^100.000.000.000
не вычислены а более точная модель.....
Соус 1?
>А знаешь сколько потенциальных комбинаций
Хуёвый и тупой вопрос. на каждый нейрон максимум 15 тысяч связей. ( между 100 млрд нейронами )
квантовые пеки могут просчитать любое количество связей. но количество сохраняемости данных будет таким огромным что их нельзя будет сохранить, кроме как на днк.
нейроны работают по типу соц сетей - возьмём пример, 3 нейрона, где всего 3 связи.
Первый нейрон спрашивает ( источник всплеска ) от нерва. , Кто такой хуй? - два нейрона отвечают что хуй - это хороший парень, и заебок. тогда первый нейрон получает 2 положительных сигнала ответа.
>Новая китайская нейросеть мультимодальна
Сила нейронок в их узкой специализации
>Количество параметров Wu Dao 2.0 превышает 1,75 триллиона — то есть, она в 10 раз мощнее, чем GPT-3
Решает не количество параметров, а внутренняя структура нейронки
>Wu Dao 2.0 пишет эссе, стихи и двустишия на традиционном китайском языке, распознаёт изображения и генерирует их по словесному описанию, имитирует речь, создаёт кулинарные рецепты, а также предсказывает трёхмерную структуру белков, подобно AlphaFold.
Ну это вообще пушка просто
>Для обучения Wu Dao 2.0 учёные использовали почти пять терабайтов изображений и текстов, включая 1,2 терабайта текстов на китайском и английском языках
Это ничто. Гугл обучает свои нейронки на петабайтах данных, а тут речь о терабайтах.
Вангую, это какая-то студенческая дипломная работа. У нас такие тоже по ТВ форсят для поднятия духа у плебса
мимо понимаю в нейронках немного
2 актёра, кстати уже умерли от старения. вроде.
кинцо унылое, кроме этого момента. найдёшь сам. хотя, нет, фильм страховщик
>элементная база
ты о чём?
Всегда считал, что будущее людей как вида, это объединение с машинами. Что-то типо нейролинка, чтобы мозг мог использовать не только свою мощность, но и мощности машины.
>А знаешь сколько потенциальных комбинаций
патенциальные не нужны. Нужны прямые связи
у 3 нейронов их 3
у 6 их 10
дальше идёт тупо перемножение.
но если мы сделаем 100 млрд нейронов и что бы каждый нейрон видел другие 15 тысяч штук. то будет смоделирован мозг человека.
цифровые мозги, могут обходить ограничения на количество связей. например 1 нейрон могет видеть хоть миллион или миллиард нейронов ( вместо 15 тысяч у биологических )
Ты сейчас про фронтальные погрузчики?
Как говорил товарищ Гоблин Пучков "Главное в процессе следствия не выйти на самих себя"
Про любую технологию модифицирующую человека.
Вот они слева направо:
x_1, x_2, ..., x_175000000000
Смотрите любой фильм можно оцифровать. В конечном счете любая цифровая информация это двоичный код.
Значит эта нейросеть может сгенерировать супер крутой фильм с охуенной графикой и супер интересным сюжетом.
Надеюсь скоро выложат нам этот фильм.
Надо сюда число Грэма добавить. Число Грэма еще никто не побил.
>людей как вида, это объединение с машинами.
паразиты вроде блох, создали пушистых животных, вроде собак и кошек.
также как человек создаёт человейники. случайно, неосозннано или умышленно
>это объединение с машинами. Что-то типо нейролинка
Ну да и любой школьник трал ,всех прошьёт.
Нет не может
1900 на 1080 пикселей - будет 2 миллиона точек.
если мы представим 2 миллиона нейронов, то это будет мозг таракана.
Мозг таракана занимается творчеством? пишет стихи?
собаки с большим мозгом не могут говорить как и коты. Это может делать только человек.
Что бы получить осознанность, нужно 100 миллиардов нейронов и 15 тысяч связей а это.
1 500 000 000 000 000 ( Один квадриллион пятьсот триллионов )
Тогда мы получим, мозг обычного средне статистического человека.
Каждый двачер, имеет 1 500 000 000 000 000 ( Один квадриллион пятьсот триллионов параметров )
и что делают эти двачера и какаие выводы делают?
На 1 пикроле осознанное изображение на 2-4 нет.
>чтобы мозг мог использовать не только свою мощность, но и мощности машины
Ты сейчас про компьютер, да?
да но мозг человека имеет 1 500 000 000 000 000 ( Один квадриллион пятьсот триллионов параметров )
Отсюда делаем вывод, что этот ИИ. Математически слабее. 800 раз.
точн не помню сколлько было параметров в alpha go - наверн 100 млрд вроде.
Нейронная сеть AlphaGo Zero была обучена с использованием TensorFlow с 64 рабочими процессорами и 19 серверами параметров ЦП. Для вывода использовались только четыре TPU. Нейронная сеть изначально ничего не знала о выходе за рамки правил. В отличие от более ранних версий AlphaGo, Zero воспринимал только камни на доске, а не использовал некоторые редкие запрограммированные человеком крайние случаи, помогающие распознать необычные положения доски в го. ИИ занимается обучением с подкреплением, играя против самого себя, пока не сможет предвидеть свои собственные ходы и то, как эти ходы повлияют на исход игры. В первые три дня AlphaGo Zero сыграла против себя 4,9 миллиона игр подряд. [9] Казалось, что он развил навыки, необходимые для победы над лучшими людьми, всего за несколько дней, тогда как более раннему AlphaGo требовались месяцы обучения, чтобы достичь того же уровня. [10]
Для сравнения, исследователи также обучили версию AlphaGo Zero с использованием человеческих игр, AlphaGo Master, и обнаружили, что она обучалась быстрее, но на самом деле работала хуже в долгосрочной перспективе. [11] DeepMind представила свои первые результаты в документе Nature в апреле 2017 года, который затем был опубликован в октябре 2017 года [1].
Стоимость оборудования
Стоимость оборудования для одной системы AlphaGo Zero в 2017 году, включая четыре TPU, оценивается примерно в 25 миллионов долларов. [
>если мы представим 2 миллиона нейронов, то это будет мозг таракана.
Ну это пока, через 10 лет будет уже к примеру 10 миллиардов, чнрнз 20 - 100.... хуль ты пессимист такой?
Пока США и Европа возятся со своей толесрантностью, а Россия в говне сидит, только Китай хоть как-то развивается. Вангую через лет 10 Китай станет самой развитой страной в мире.
да, но у пхравительств, уже есть всё это, точнее у тех кто ими управляет
и эти устарелые технологии вбрасываются, с помойных корпораций вроде гугла, или эпла, или ещё каких ещё либо
в 2001 году, мне снился сон, блестящие гладкие белые коридоры. потом оказалось что это про doom eternal или 2016 но без этих ботов врагов - такие же локации, такие двери и чек поинты.
также и во вселенной есть какие то потолки развития, ведь лучше молотка и ложки изобрести нельзя в плане механики.
А деанон шлюх файндфейсом и ебля васянов с митингов нейросетями Собянина это как, не нейросети? Пиздоглазые это и допиливают.
>В Китае заявили о создании нейросети в 10 раз мощнее самой «продвинутой» нейросети GPT-3
Ну и чо? Тред то о чем, что обсудить хочешь, оп?
>У пикчи 512x512 = 262144 параметров которые передаются нейросети на распознавание, чем больше параметров сеть может обработать(и "запомнить") тем она мощнее
Ты еблан? В курсе, что такое параметры? Это количество точек, а не параметров, дебилоид
>Мань, 90-е давно кончились. Когда-то китайцы и ездили на правах гастеров, но как только партия свистнула и дала возможности для бизнеса - всех как ветром сдуло и теперь Китай бурно развивается, причем настолько бурно. что за этим сложно уследить.
Они выиграли хоть одну войну за последние сто лет? Ну вот о том и разговор, пока эти лошки переносят столицу от островных япов о какой вообще мощи может быть разговор?
Хочу ai dungeon на этой нейросетке.
>Всегда считал, что будущее людей как
ну ты управляешь мышечными импульсами? нет, это автоматика, подумал и рука согнулась или там почесал чего нибудь. тело человека и так это машина биологическая, которая состоит из неживых элементов- атомов и молекул. И частотами активации мозга тоже не управляешь, всё это автоматически делается. Ничего лучше увы не сделать, это самое лучшее тело какое может быть для данного уровня развития общества.
По словам председателя академии, Wu Dao 2.0 — это «источник питания для будущего реального искусственного интеллекта, с мегаданными, вычислительной мегамощью и мегамоделями».
Да хули ваши стихи. Когда ваша нейронка отрендерит порноролик по словесному описанию, тогда и приходите.
Дурачок, он назвал параметрами веса а и б, а они аналогичны количеству точек изображения. Прочитай пост ещё раз, спасибо абуза тупых детей
Абу благословил этот пост.
лучше кинь где с ней можно поиграться
21 век, измерять мощь размером ствола Хотя стоп, проехали
Люди могут себе позволить нищщук.
А пруфы где?
Или как всегда оно водится в китае - хуй вам, а не пруфы, верьте на слово?
Эта хуйня обретёт искусственный интеллект, но сама себя уничтожит, так как вшьет рекламу пандао себе в настройки
>>249140236
К тому же люди уже много лет ошибочно полагают что их сознание это они и что оно принадлежит им, как впрочем и тело. Хотя на самом деле, тело это колония из триллионов одноклеточных организмов которые живут своей жизнью в симбиозе с остальными ради того чтобы общая система функционировала. Живут ради того чтобы жрать. Жрут ради того чтобы жить. Вот и вся ваша метафизика. И сознание это продукт этой колонии.
А мякотка здесь в том что этой колонии в хуй не упало ваши человекомашинные симбиозы. Поэтому соединять ничего не получится.
опять вы статистику подвидом AI пропихиваете