Информатика и вычислительная техника — цитаты из книг — стр. 4

... первые модели мозговой деятельности - это, в лучшем случае, грубые аппроксимации нейровычислительной реальности. Эти аппроксимации могут оказаться столь же ошибочными, как и предыдущая догадка о цифровом характере операций мозга.

Как показывают наблюдения, функционирование нервной системы носит на первый взгляд цифровой характер.

Вполне возможно, что определенные комбинации нервных импульсов будут возбуждать данный нейрон не только в силу их количества, но и в силу относительного пространственного расположения принимающих синапсов.

... отдельный нейрон может ... оказаться гораздо более сложным механизмом, чем это предполагает догматическое описание в категориях раздражения и ответа, следующее простой модели элементарных логических операций.

... присущие нам способы мышления и выражения мыслей делают крайне трудным описание поистине сложных задач без помощи формул и цифр.

... допустим ожидать, что арифметическая часть нервной системы существует и работает с высокой точностью.

... язык, в значительной степени является результатом исторической случайности. Основные человеческие языки передаются нам в различных формах, однако сама их множественность доказывает, что в них нет ничего абсолютного и необходимого.

Возможно, когда мы говорим о математике, мы говорим о вторичном языке, построенном на первичном языке, который используется в центральной нервной системе.

Разумно предположить, что логика и математика также являются историческими, случайными формами выражения. Вероятно, они могут варьировать, т. е. существовать в других формах, помимо тех, к которым мы привыкли… В настоящее время у нас имеется достаточно свидетельств в пользу того, что, каким бы ни был язык, используемый…

… в нервной системе, по-видимому, используется система представления, которая в корне отличается от систем представления, с которыми мы имеем дело в обычной арифметике и математике.

Итого: обучение — гонка между количеством данных, имеющихся в вашем распоряжении, и количеством рассматриваемых вами гипотез. Увеличение объема данных экспоненциально уменьшает количество прошедших проверку гипотез, но, если гипотез изначально много, в конце все равно может остаться некоторое количество плохих. Как же…

Люди тоже не застрахованы от переобучения. Можно даже сказать, что это корень многих наших бед. Представьте себе ситуацию: маленькая белая девочка видит в торговом центре девочку-мексиканку и кричит: «Мама, смотри, ребенок-служанка! (это реальный случай). Дело не в прирожденном расизме. Скорее, она слишком обобщила…

Если представить обработку данных в виде экосистем, обучающиеся алгоритмы будут в ней суперхищниками. Базы данных, поисковые роботы, индексаторы и так далее – это травоядные, мирно пасущиеся на бескрайних лугах данных. Статистические алгоритмы, оперативная аналитическая обработка и так далее – просто хищники. Без…

Вместо того чтобы использовать компьютеры для свободы и возможности мыслить масштабно, для установления близких отношений, для реализации своей индивидуальности и творческого потенциала, молодые люди настолько жаждут указаний, что готовы передать эту ответственность искуственному интеллекту в облаке. То что начиналось как…

Создание интеллектуальных "помощников" может вновь создать проблему с которой столкнулись римляне, позволив греческим рабам думать за них. Довольно быстро находившиеся у власти утратили способность думать самостоятельно.

Системы больших данных - это как фильмы Сесила Демилля в машинном обучении: тысячи серверов вместо тысячи статистов. В самых крупных проектах надо собрать вместе все данные, верифицировать их, очистить и привести в приемлемую для обучающегося алгоритма форму - по сравнению с этим строительство пирамид покажется прогулкой…

Мир состоит из элементов, а элементы относятся к классам: соединение этих факторов в основном дает нам все, что нужно, чтобы позволить алгоритму Alchemy делать выводы. Мы можем получать имеющиеся в мире логические сети Маркова, разбивая его на элементы и подэлементы так, чтобы взаимодействия в основном происходили между…

Благодаря иерархической структуре выводы становятся возможными, потому что подэлементы мира взаимодействуют главным образом с другими подэлементами одного и того же элемента: соседи чаще разговаривают друг с другом, а не с людьми из других стран; молекулы, созданные в одной клетке, вступают в реакцию в основном с другими…

Логический вывод в Alchemy - сочетание логического и вероятностного выводов. Первый реализован путем доказательства теорем, а второй - путем распространения степени уверенности, МСМС и другими методами. Мы соединили и то и другое в вероятностное доказательство теорем, и ключевым элементом системы Alchemy в настоящее время…

Благодаря Alchemy возможны пять типов обучения без учителя, которые мы видели в предыдущей главе. Очевидно, что он способен на реляционное обучение, и пока в большинстве случаев его применяли именно так. Alchemy использует логику для представления отношений между объектами, а сети Маркова - чтобы они могли быть…

Машинное обучение - это и наука и технология, и обе составляющие дают нам подсказки, как их объединить. В науке объединяющие теории часто начинаются с обманчиво простых наблюдений: два не связанных на первый взгляд феномена оказываются сторонами одной медали, и осознание этого факта, как первая костяшка домино, порождает…

Настольные игры - прекрасный пример проблемы обучения с подкреплением: надо построить длинную последовательность ходов без какой-то обратной связи, а награда или наказание - победа или поражение - ждет в самом конце.

Кластеризация и понижение размерности приближают нас к пониманию человеческого обучения, но чего-то очень важного все равно не хватает. Дети не просто пассивно наблюдают за миром. Они активно действуют: замечают предметы, берут их в руки, играют, бегают, едят, плачут и задают вопросы. Даже самая продвинутая зрительная…