24 November 2016

ncuxuamp_pro: (паяц)
Среди лауреатов Премии Рунета 2016 - Федеральная налоговая служба России (!), портал мэра Москвы и медиа-портал Life.ru, система сбора платежей с автомобилей "Платон".

Мне одной кажется, что больше всех премию заслужил Роскомнадзор?
ncuxuamp_pro: (паяц)
Оригинал взят у [livejournal.com profile] 22century_ru в Google Neural Machine Translation создала собственный язык-посредник



Пусть это вас не пугает, но, кажется, компьютеры создали свой собственный секретный язык и, вероятно, говорят о нас прямо сейчас. Шутка. Однако недавно действительно произошло удивительное событие, поразившее разработчиков ИИ из Google.


Ещё в сентябре компания Google объявила о запуске своей системы машинного перевода Neural Machine Translation. В ней используется глубокое обучение для получения лучшего и более естественного перевода.


Вслед за этим успехом, создатели GNMT заинтересовались ещё кое-чем. Если вы учите систему перевода переводить с английского на корейский и наоборот, а также с английского на японский и наоборот… сможет ли она перевести с корейского на японский, не прибегая к английскому как посреднику между ними? Они сделали эту гифку, чтобы проиллюстрировать идею того, что они называют «zero-shot translation» (на гифке этот процесс показан оранжевыми пунктирными линиями).


image01


Как оказалось — да. Она делает «разумные» переводы с языка на язык, которые она не связывает явно каким-либо образом. Помните, что английский не допускается.


Но тогда возникает второй вопрос. Если компьютер способен провести связи между понятиями и словами, которые не были формально связаны… значит ли это, что компьютер сформировал концепцию общего смысла для этих слов, то есть на более глубоком уровне, чем просто уровень, на котором одно слово или фраза является эквивалентом другой?


Иначе говоря, компьютер разработал свой собственный внутренний язык для представления понятий, который он использует для перевода с одного языка на другой? На основании того, как различные предложения связаны друг с другом в пространстве памяти нейронной сети, гугловские специалисты по языку и ИИ полагают, что так оно и есть.



Визуализация перевода нейросетью одного предложения наразные языки
Визуализация перевода нейросетью одного предложения на разные языки.


Эта «интерлингва», похоже, существует как более глубокий уровень репрезентации, на котором система видит сходство между предложением или словом на всех трёх языках. Помимо этого, трудно что-то сказать ещё, так как печально известно, что внутренние процессы сложных нейронных сетей с трудом поддаются описанию.


Это может быть что-то сложное, или это может быть что-то простое. Но тот факт, что оно вообще существует — собственное оригинальное творение системы, призванное помочь ей в понимании концепций, которые она не была обучена понимать — это, с философской точки зрения, довольно впечатляющая вещь.


Статью с описанием работы исследователей (прежде всего об эффективном многоязычном переводе, но и касающейся таинственной «интерлингвы») можно прочитать на arXiv.org. Без сомнения, вопрос о более глубоких понятиях, создаваемых и используемых системой, потребует дальнейшего изучения.

Profile

ncuxuamp_pro: (Default)
ncuxuamp_pro

December 2016

S M T W T F S
    1 2 3
45 6 78910
11 12 13 141516 17
1819202122 23 24
2526 2728293031

Most Popular Tags

Style Credit

Expand Cut Tags

No cut tags
Page generated 24 October 2017 09:19
Powered by Dreamwidth Studios