Статья опубликована в журнале The Atlantic (июнь 2018 г.) и публикуется по-русски с официального разрешения редакции.

 

Три года назад на конференции по трансатлантическим вопросам в повестке дня появилась тема искусственного интеллекта (ИИ). Я собирался уйти с заседания, поскольку этот предмет не входит в сферу моих интересов, но начало презентации заставило меня остаться. Выступавший рассказывал о компьютерной программе, которая вскоре сможет бросить вызов чемпионам мира по игре го. Я удивился: компьютер способен справиться с го – более сложной игрой, чем шахматы? Каждый из игроков имеет в своем распоряжении 180 или 181 фишку-камень (в зависимости от выбранного цвета) и по очереди расставляет их на пустой доске. Выигрывает тот, кто, принимая эффективные стратегические решения, парализует действия противника и будет контролировать большую территорию.

 

Выступавший утверждал, что эта способность не может быть запрограммирована. Его машина освоила игру посредством тренировок. Зная правила, компьютер сыграл бессчетное количество партий сам с собой и учился на собственных ошибках, совершенствуя алгоритмы. В процессе тренировок ему удалось превзойти своих наставников-людей. Спустя несколько месяцев действительно появилась ИИ-программа AlphaGo, способная обыгрывать сильнейших мастеров го.

 

Пока я слушал заявления о победе технического прогресса, мой опыт историка и периодически практикующего государственного деятеля заставил меня задуматься. Как повлияют на историю самообучающиеся машины – те, что приобрели знания с помощью специфических внутренних процессов и могут применить их для целей, недоступных человеческому пониманию? Научатся ли машины коммуницировать друг с другом? Как будет происходить выбор из имеющихся опций? Может ли в истории человечества повториться судьба инков, столкнувшихся с испанской культурой, которая была недоступна их пониманию и вызывала ужас? Стоим ли мы перед новой фазой истории? Осознавая собственную некомпетентность в этой сфере, я организовал ряд неформальных встреч со специалистами по технологиям и гуманитарным наукам. Состоявшиеся дискуссии обеспокоили меня еще сильнее.

 

До сих пор технологическим прорывом, изменившим ход современной истории, можно было назвать изобретение печатного станка в XV веке. В результате появился доступ к эмпирическим знаниям, вытеснившим религиозные доктрины, на смену эпохе религии постепенно пришла эпоха разума. Человеческая прозорливость и научные знания заменили веру как основной критерий сознания. Информация хранилась и систематизировалась в разрастающихся библиотеках. Эпоха разума стимулировала мысли и действия, сформировавшие современный мировой порядок.

 

Но сегодня этот порядок переживает трансформацию на фоне новой, еще более стремительной технологической революции, последствий которой мы пока не осознаем. В результате может возникнуть мир, опирающийся на машины, управляемые данными и алгоритмами, а не этическими и философскими нормами.

 

Мы живем в эпоху интернета и уже сталкиваемся с некоторыми вопросами, которые с распространением искусственного интеллекта станут еще острее. Просвещение предоставляет традиционные истины свободному, склонному к анализу человеческому разуму. Назначение интернета – ратифицировать знания посредством аккумулирования и манипулирования увеличивающимися массивами данных. Когнитивные способности человека утрачивают личностный характер. Индивидуум превращается в набор данных, и данные начинают доминировать.

 

Для пользователей интернета важно получение и манипулирование информацией, а не контекст и концептуализация ее значения. Они редко интересуются историей или философией, как правило, им требуются сведения, касающиеся практических нужд. Алгоритмы поисковиков обретают способность прогнозировать предпочтения конкретных пользователей, результаты можно персонализировать и предоставлять заинтересованным лицам для политических или коммерческих целей. Правда становится относительной. Информация угрожает пересилить разум.

 

Через соцсети на пользователей льются потоки мнений большинства, и человек утрачивает способность к рефлексии. В действительности многие технофилы используют интернет, чтобы избежать одиночества, которое их пугает. Все это ослабляет силу духа, необходимую, чтобы выработать собственные убеждения и пройти определенный путь в одиночку – без этого невозможно создать нечто новое.

 

Воздействие интернет-технологий на политику особенно заметно. Возможность влиять на конкретные микрогруппы разрушила существовавший консенсус по поводу приоритетов – теперь акцент делается на определенных целях или претензиях. Политические лидеры заняты нишевым давлением, у них нет времени, чтобы задуматься о контексте, и, следовательно, нет потребности расширять мировоззрение. В цифровом мире приоритетна скорость, что препятствует рефлексии, радикалы получают преимущество перед вдумчивыми людьми, ценности формируются консенсусом субгруппы, а не в процессе размышлений. Несмотря на все достижения, цифровой мир рискует сам себя уничтожить, потому что недостатков больше, чем удобств.

 

Интернет и повышение мощностей компьютеров облегчили аккумулирование и анализ данных, открылись беспрецедентные ресурсы, которые человеку сложно осознать. Один из самых значительных – искусственный интеллект, т.е. технология, позволяющая решить сложные, казавшиеся абстрактными проблемы с помощью процессов, напоминающих работу человеческого мозга.

 

Речь идет не только об автоматизации, как мы ее сейчас понимаем. Автоматизация затрагивает средства достижения поставленных целей путем рационализации или механизации инструментов. Искусственный интеллект, напротив, имеет отношение именно к целям, он ставит собственные задачи. Поскольку его достижения отчасти определяются им самим, искусственный интеллект по своей природе нестабилен. ИИ-системы в процессе функционирования постоянно меняются: они получают и мгновенно анализируют новые данные, а затем самосовершенствуются на основе этого анализа. В результате искусственный интеллект приобретает способность, раньше считавшуюся прерогативой человека. Он выносит стратегические суждения о будущем, основываясь на установочных данных (например, правила игры) или данных, полученных им самим (например, сыграв 1 млн игр).

 

Беспилотный автомобиль демонстрирует различия между традиционными компьютерами, контролируемыми человеком и определяемым программным обеспечением, и вселенной, где будет царствовать искусственный интеллект. При управлении автомобилем необходимо оценивать множество ситуаций, которые невозможно предвидеть и, следовательно, запрограммировать. Возьмем известный гипотетический пример: что произойдет, если беспилотному автомобилю придется выбирать между гибелью бабушки и гибелью ребенка? Кого он выберет? Почему? Какие факторы попытается оптимизировать? Будет ли в состоянии объяснить свои действия? Если бы он умел коммуницировать, то, скорее всего, ответил бы так: «Я не знаю (потому что следую математическим, а не человеческим принципам)» или «Вы не поймете (потому что я обучен действовать определенным образом, а не объяснять свои действия)». Между тем через 10 лет беспилотные автомобили будут преобладать на дорогах.

 

До сих пор ИИ-исследования ограничивались определенными сферами деятельности, но сейчас речь идет о разработке «широко развитого интеллекта», способного выполнять задачи в различных сферах. В обозримом будущем во многих областях человеческой деятельности будут работать ИИ-алгоритмы. Но они являются математической интерпретацией наблюдаемых данных и не объясняют реалии, которые их обусловили. Парадоксально: мир становится более прозрачным и одновременно более таинственным. Чем новый мир будет отличаться от привычного нам сегодня? Как мы будем в нем жить? Как будем управлять искусственным интеллектом, совершенствовать его, а в крайнем случае помешаем ему нанести нам вред? Главная проблема заключается в том, что искусственный интеллект осваивает навыки быстрее и увереннее человека, поэтому со временем он может сократить человеческую деятельность, а людей превратить в данные. Искусственный интеллект способен принести невероятную пользу в медицине, обеспечении чистой энергией, в экологии и многих других сферах. Но именно потому, что ИИ принимает решения по поводу пока еще неопределенного будущего, результатам его деятельности присущи неопределенность и неоднозначность. Особое беспокойство вызывают три аспекта.

 

Во-первых, искусственный интеллект может достичь непредусмотренных результатов. В научной фантастике описывается, как искусственный интеллект атакует своих создателей. Более вероятно, что ИИ неверно интерпретирует инструкции человека из-за отсутствия понимания контекста. В качестве примера можно вспомнить ИИ-виртуального собеседника Tay, который предназначен для ведения дружеских бесед языком 19-летней девушки. Но машина не смогла распознать императивы «дружеский» и «разумный», установленные разработчиками, поэтому виртуальный собеседник подавал расистские, сексистские и просто оскорбительные реплики. Некоторые представители мира технологий утверждают, что эксперимент плохо продуман и неудачно реализован, тем не менее он продемонстрировал базовую неоднозначность. Насколько ИИ способен понять контекст, определяющий полученные им инструкции? Кто помог бы Tay понять значение слова «агрессивный», если сами люди не могут прийти к единому мнению? Можем ли мы на начальной стадии выявить ошибки и скорректировать ИИ-программу, действующую не так, как мы ожидали? Или у искусственного интеллекта неизбежно возникнут небольшие отклонения, которые со временем могут привести к катастрофическим последствиям?

 

Во-вторых, в процессе достижения поставленных целей ИИ может изменить человеческое мышление и человеческие ценности. AlphaGo удалось обыграть сильнейших мастеров го, предпринимая беспрецедентные стратегические шаги, о которых человек даже не мог подумать и которым пока не научился противодействовать. Эти ходы находятся за пределами возможностей человеческого мозга? Или люди смогут освоить их, после того как их показал новый мастер го?

 

До того как искусственный интеллект начал играть в го, игра имела различные многоуровневые задачи. Игрок стремился не только победить, но и освоить новые стратегии, применимые в других жизненных ситуациях. У искусственного интеллекта цель одна – выиграть. Он «учится» не концептуально, а математически, совершенствуя свои алгоритмы. ИИ научился побеждать, играя не так, как человек, и ему удалось изменить природу игры и ее воздействие. Можно ли сказать, что такой однобокий подход характерен для искусственного интеллекта в целом?

 

Другие ИИ-проекты занимаются модификацией человеческого мышления посредством разработки устройств, способных генерировать ответы на запросы человека. Помимо вопросов относительно фактов (какая температура на улице?), вопросы о природе реальности и смысле жизни поднимают более глубокие проблемы. Хотим ли мы, чтобы дети узнавали о ценностях посредством бесстрастных алгоритмов? Должны ли мы защищать частную жизнь, ограничивая информацию ИИ о тех, кто задает вопросы? Если да, то как мы будем это делать?

 

Если искусственный интеллект обучается в разы быстрее человека, можно ожидать, что процесс проб и ошибок (как обычно люди принимают решения) тоже пройдет у него ускоренно. Только ошибки ИИ будут совершаться быстрее и с более серьезными последствиями. Вряд ли, с этими ошибками удастся справиться путем добавления в программу «этического» или «рационального» просчитывания ситуации, как предлагают ИИ-разработчики. Все научные дисциплины возникли из-за неспособности человечества договориться об определении этих терминов. Так может ли искусственный интеллект стать арбитром?

 

В-третьих, ИИ может достичь предусмотренных целей, но ему не удастся объяснить свои выводы. В некоторых сферах – распознавание образов, анализ больших данных, игры – ИИ по своим способностям уже превосходит человека. Если его вычислительные ресурсы продолжат так же быстро расти, ИИ вскоре сможет оптимизировать ситуации, но совсем не так, как это сделал бы человек. Но на данном этапе может ли ИИ объяснить, почему его действия оптимальны, чтобы человеку было понятно? Или решения ИИ не поддаются объяснению человеческим языком и поэтому недоступны человеческому пониманию? На протяжении всей истории человечества цивилизации создавали способы объяснения мира: в Средневековье это была религия, в эпоху Просвещения – разум, в XIX веке – история, в XX – идеология. Но самый сложный и важный вопрос по поводу мира, к которому мы движемся, звучит так: что станет с человеческим сознанием, если его объяснительные способности будут уступать искусственному интеллекту и общество уже не сможет интерпретировать существующий мир в терминах, имеющих для него смысл?

 

Как определить сознание в мире машин, которые ограничивают человеческий опыт математическими данными, интерпретируемыми их собственной памятью? Кто несет ответственность за действия ИИ? Как будет устанавливаться ответственность за его ошибки? Сможет ли правовая система, созданная людьми, контролировать деятельность ИИ, который умнее и потенциально хитрее человека?

 

В конечном итоге термин «искусственный интеллект» рискует оказаться неверным. Эти машины действительно могут решать сложные, кажущиеся абстрактными проблемы, которые раньше поддавались только человеческому познанию. Но то, что является их уникальной особенностью, это мышление не на основе того познания и опыта, который приобретен ранее. Скорее речь идет о беспрецедентных возможностях памяти и вычислительных ресурсах. Учитывая естественное превосходство ИИ в данных аспектах, он всегда будет побеждать в играх. Но для человечества игры – это не только победа, нам важны размышления. Если мы будем относиться к математическому процессу как к мыслительному, попытаемся его имитировать и безоговорочно примем его результаты, то окажемся в опасности – мы можем потерять способность, являющуюся основой человеческого познания.

 

Проблемы подобной эволюции демонстрирует недавно разработанная программа AlphaZero, которая играет в шахматы на уровне выше гроссмейстерского и в стиле, прежде не встречавшемся в истории шахмат. За несколько часов игры с собой программа вышла на уровень, для достижения которого человечеству потребовалось 1500 лет. В программу были загружены только базовые правила игры. Люди и собранные ими данные не использовались в процессе самообучения AlphaZero. Если программа смогла достичь подобного уровня мастерства так быстро, где будет искусственный интеллект через пять лет? Как это повлияет на когнитивные способности человека? Какова роль этики в этом процессе, который по сути заключается в ускоренном выборе?

 

Обычно такие вопросы оставляют специалистам по технологиям и интеллектуалам из смежных научных областей. Философы и другие гуманитарии, которые помогли сформулировать концепции мирового порядка, в дискуссию не вступают, потому что им не хватает знаний о механизмах ИИ или его возможности приводят их в ужас. Научный мир, напротив, готов исследовать технические возможности своих достижений, а технологический мир занят масштабным коммерческим воплощением своих идей. Оба мира стремятся раздвинуть границы открытий, не понимая их. А власти больше интересует использование ИИ в сфере безопасности и разведки, чем уже начавшаяся трансформация человеческой жизни.

 

Просвещение началось с философских размышлений, которые распространялись с помощью новой технологии. Наша эпоха движется противоположным путем. Разработана потенциально доминирующая технология, которая нуждается в направляющей философии. Во многих странах ИИ превратился в национальный проект. Соединенные Штаты пока системно не исследуют весь диапазон возможностей ИИ, его воздействие и не начали процесс совершенствования. Это должно стать национальным приоритетом с точки зрения взаимосвязи ИИ и гуманистических традиций.

 

Создатели ИИ, некомпетентные в политике и философии, как я – в сфере технологий, должны задаться вопросами, которые я поднял в этой статье, чтобы встроить ответы в свои инженерные разработки. Правительству США стоит подумать о создании президентской комиссии из признанных экспертов-мыслителей, которые помогут разработать национальный подход. Очевидно одно: если мы не начнем эту работу в ближайшее время, очень скоро мы поймем, что уже опоздали.

Источник: https://www.globalaffairs.ru/number/Kak-zavershaetsya-epokha-Prosvescheniya-19658

 

 

 

от Admin

560 комментариев к «Генри Киссинджер об искусственном интеллекте»
  1. ryobi pressure washer

    […]we like to honor quite a few other internet web-sites on the web, even though they aren’t linked to us, by linking to them. Beneath are some webpages worth checking out[…]

  2. how to clean a rug

    […]Wonderful story, reckoned we could combine a handful of unrelated data, nonetheless really worth taking a search, whoa did a single understand about Mid East has got much more problerms at the same time […]

  3. accepting guest post

    […]although sites we backlink to beneath are considerably not related to ours, we feel they are basically really worth a go by means of, so have a look[…]

  4. wayloncpduo post blogs com

    […]Wonderful story, reckoned we could combine a few unrelated data, nonetheless seriously really worth taking a look, whoa did a single master about Mid East has got a lot more problerms as well […]

  5. guest posting for cbd buziness

    […]we prefer to honor many other world-wide-web websites around the internet, even when they aren’t linked to us, by linking to them. Below are some webpages worth checking out[…]

  6. guest posting job board

    […]although internet websites we backlink to beneath are considerably not connected to ours, we feel they may be basically worth a go by way of, so possess a look[…]

  7. cbd vape juice dubai

    […]although websites we backlink to below are considerably not associated to ours, we really feel they’re truly really worth a go by way of, so have a look[…]

  8. esketamine nasal spray canada

    […]Wonderful story, reckoned we could combine a few unrelated information, nonetheless really worth taking a look, whoa did 1 master about Mid East has got much more problerms too […]

  9. buy focalin xr online

    […]although internet sites we backlink to beneath are considerably not connected to ours, we feel they may be basically really worth a go through, so possess a look[…]

  10. alza 54

    […]Every as soon as inside a whilst we decide on blogs that we read. Listed beneath would be the most recent web sites that we pick out […]

  11. ไฮโล

    […]that will be the finish of this post. Here you will locate some internet sites that we feel you will enjoy, just click the hyperlinks over[…]

  12. teak furniture

    […]Wonderful story, reckoned we could combine some unrelated data, nonetheless definitely worth taking a search, whoa did one learn about Mid East has got more problerms as well […]

  13. teak furniture

    […]Wonderful story, reckoned we could combine a few unrelated data, nevertheless genuinely really worth taking a look, whoa did one particular understand about Mid East has got a lot more problerms at the same time […]

  14. teak furniture

    […]very couple of internet websites that come about to become in depth below, from our point of view are undoubtedly well really worth checking out[…]

  15. reformas

    […]although internet sites we backlink to below are considerably not associated to ours, we feel they’re really really worth a go by, so have a look[…]

  16. reformas cocinas zaragoza

    […]we like to honor numerous other online web sites around the internet, even though they aren’t linked to us, by linking to them. Beneath are some webpages worth checking out[…]

  17. reformas

    […]here are some links to internet sites that we link to since we assume they are really worth visiting[…]

  18. delta 8 packwoods

    […]just beneath, are many absolutely not connected web sites to ours, on the other hand, they are certainly worth going over[…]

  19. PGSLOT

    […]check beneath, are some absolutely unrelated internet sites to ours, nevertheless, they may be most trustworthy sources that we use FMRanker[…]

  20. Music Download

    […]very few sites that happen to be detailed beneath, from our point of view are undoubtedly effectively worth checking out[…]

  21. l’épaviste agréé

    […]that is the end of this write-up. Here you will obtain some web-sites that we assume you’ll enjoy, just click the hyperlinks over[…]

  22. ffh4x v41

    […]here are some hyperlinks to web pages that we link to simply because we feel they may be worth visiting[…]

  23. sexy

    […]please stop by the web pages we follow, such as this a single, because it represents our picks in the web[…]

  24. thc vape cart spain

    pure thc vape carts for sale with discreet and express delivery to spain. Land of shopping and good wine. Enjoy the street of spain with pure thc vape carts for uplifting mode during your vacation.

  25. kanha gummies near me

    […]although web sites we backlink to below are considerably not associated to ours, we really feel they’re actually really worth a go by, so possess a look[…]

  26. ps5 sale

    […]check below, are some completely unrelated websites to ours, having said that, they’re most trustworthy sources that we use[…]

  27. enlèvement voiture

    […]very couple of internet sites that happen to be in depth below, from our point of view are undoubtedly very well worth checking out[…]

  28. Epaviste

    […]here are some hyperlinks to sites that we link to for the reason that we think they may be really worth visiting[…]

  29. Hemp T-shirt

    We Like To Honor Several Other World-wide-web Web-sites Around The Net, Even If They Aren’t Linked To Us, By Linking To Them. Below Are Some Webpages Worth Checking Out

  30. cereal milk strain

    […]very couple of internet sites that happen to become detailed beneath, from our point of view are undoubtedly very well worth checking out[…]

  31. BERETTA 3032 TOMCAT

    […]Wonderful story, reckoned we could combine a few unrelated data, nevertheless truly really worth taking a search, whoa did a single master about Mid East has got much more problerms also […]

  32. Glock 43x

    […]please take a look at the web-sites we follow, such as this 1, because it represents our picks in the web[…]

  33. sudocrem

    […]just beneath, are many completely not associated websites to ours, even so, they are surely worth going over[…]

  34. Buy This Domain

    […]check beneath, are some entirely unrelated websites to ours, on the other hand, they’re most trustworthy sources that we use[…]

  35. buy 5meo dmt

    […]just beneath, are numerous totally not connected web-sites to ours, on the other hand, they are certainly worth going over[…]

  36. classic books

    […]very handful of internet sites that happen to become comprehensive beneath, from our point of view are undoubtedly properly worth checking out[…]

  37. friendly farms live resin

    […]although sites we backlink to beneath are considerably not related to ours, we feel they’re essentially worth a go by way of, so possess a look[…]

  38. raw garden carts price

    […]although web-sites we backlink to beneath are considerably not associated to ours, we really feel they’re essentially really worth a go via, so have a look[…]

  39. Stagg Jr Bourbon Whiskey

    […]we like to honor numerous other world wide web web pages around the net, even if they aren’t linked to us, by linking to them. Underneath are some webpages worth checking out[…]

  40. Buy This Domain

    […]we like to honor several other world wide web websites on the web, even though they aren’t linked to us, by linking to them. Underneath are some webpages worth checking out[…]

  41. Tecno Phones

    […]check beneath, are some completely unrelated internet websites to ours, however, they’re most trustworthy sources that we use[…]

  42. business coach for entrepreneurs

    […]we like to honor several other world-wide-web sites around the web, even when they aren’t linked to us, by linking to them. Below are some webpages really worth checking out[…]

  43. vintage poster 1988

    […]Wonderful story, reckoned we could combine a handful of unrelated data, nevertheless actually really worth taking a appear, whoa did 1 learn about Mid East has got far more problerms also […]

  44. office poster framed

    […]we prefer to honor lots of other world-wide-web internet sites on the net, even when they aren’t linked to us, by linking to them. Beneath are some webpages really worth checking out[…]

  45. where to sell jewelry

    […]Wonderful story, reckoned we could combine some unrelated information, nevertheless seriously worth taking a appear, whoa did one find out about Mid East has got far more problerms too […]

  46. platinum skywalker og

    […]we prefer to honor numerous other internet sites around the net, even if they aren’t linked to us, by linking to them. Underneath are some webpages worth checking out[…]

  47. BIC lighters for sale

    […]we prefer to honor lots of other internet internet sites around the net, even if they aren’t linked to us, by linking to them. Below are some webpages worth checking out[…]

  48. wikipedia.or.id

    […]we like to honor numerous other internet websites around the net, even if they aren’t linked to us, by linking to them. Beneath are some webpages really worth checking out[…]

  49. glownar microcurrent

    […]that could be the end of this post. Right here you’ll obtain some sites that we feel you’ll appreciate, just click the hyperlinks over[…]

  50. zemits pressotherapy

    […]very handful of web-sites that come about to be in depth beneath, from our point of view are undoubtedly effectively worth checking out[…]

  51. IT Socially

    […]please take a look at the web-sites we follow, including this one, because it represents our picks through the web[…]

  52. disclaimer

    […]very handful of internet websites that occur to be comprehensive below, from our point of view are undoubtedly very well really worth checking out[…]

  53. breaking news

    […]very couple of websites that transpire to be in depth beneath, from our point of view are undoubtedly well worth checking out[…]

  54. i loved this

    […]very couple of web-sites that occur to become in depth beneath, from our point of view are undoubtedly very well really worth checking out[…]

  55. check over here

    […]that would be the end of this post. Right here you will find some sites that we think you’ll value, just click the hyperlinks over[…]

  56. Learn More

    […]always a significant fan of linking to bloggers that I really like but really don’t get a good deal of link like from[…]

  57. discover here

    […]we prefer to honor quite a few other web sites on the web, even though they aren’t linked to us, by linking to them. Beneath are some webpages worth checking out[…]

  58. important source

    […]although internet websites we backlink to below are considerably not associated to ours, we really feel they are actually worth a go via, so have a look[…]

  59. go to this website

    […]we prefer to honor lots of other internet sites around the web, even when they aren’t linked to us, by linking to them. Underneath are some webpages really worth checking out[…]

  60. مسيار

    […]please take a look at the web-sites we follow, which includes this one particular, because it represents our picks in the web[…]

  61. Guns on Sale

    […]just beneath, are a lot of absolutely not related web sites to ours, having said that, they are surely really worth going over[…]

  62. 9mm Ammo

    […]Every once inside a though we choose blogs that we study. Listed beneath are the newest internet sites that we decide on […]

  63. SpytoStyle.Com

    […]although internet sites we backlink to below are considerably not connected to ours, we really feel they are essentially worth a go through, so possess a look[…]

  64. SpytoStyle.Com

    […]that would be the end of this write-up. Right here you’ll locate some internet sites that we think you’ll appreciate, just click the links over[…]

  65. SpyToStyle

    […]check below, are some completely unrelated web sites to ours, nonetheless, they are most trustworthy sources that we use[…]

  66. 88vin.shop

    […]check below, are some completely unrelated websites to ours, on the other hand, they’re most trustworthy sources that we use[…]

  67. 1r88.vip

    […]please take a look at the sites we stick to, like this one, because it represents our picks through the web[…]

  68. g88vin

    […]very couple of sites that come about to become in depth beneath, from our point of view are undoubtedly effectively worth checking out[…]

  69. ban ca h5

    […]that will be the end of this post. Right here you will come across some sites that we believe you will enjoy, just click the links over[…]

  70. game đổi thưởng

    […]Wonderful story, reckoned we could combine a few unrelated information, nonetheless actually worth taking a look, whoa did one particular find out about Mid East has got a lot more problerms too […]

  71. lmhmod

    […]please visit the sites we adhere to, such as this one, because it represents our picks from the web[…]

  72. Game bài

    […]Every when in a even though we select blogs that we study. Listed below would be the newest web-sites that we decide on […]

  73. Sangeeta’s Kitchen

    […]although websites we backlink to below are considerably not connected to ours, we feel they’re really really worth a go via, so possess a look[…]

  74. Firearms Site

    […]Every when in a although we pick blogs that we study. Listed below are the most recent websites that we pick out […]

  75. $50 dollar unlimited phone plan

    […]Wonderful story, reckoned we could combine a few unrelated data, nevertheless definitely really worth taking a look, whoa did one particular study about Mid East has got extra problerms at the same time […]

  76. $15 dollar unlimited phone plan

    […]we prefer to honor numerous other online internet sites around the web, even when they aren’t linked to us, by linking to them. Beneath are some webpages worth checking out[…]

  77. Thuyết trình tiếng anh

    […]we like to honor many other world-wide-web web sites on the internet, even if they aren’t linked to us, by linking to them. Beneath are some webpages worth checking out[…]

  78. 4-AXIS MACHINING

    […]check below, are some entirely unrelated web-sites to ours, nevertheless, they’re most trustworthy sources that we use[…]

  79. Làm móng tay đẹp

    […]that will be the end of this report. Here you will obtain some internet sites that we assume you’ll enjoy, just click the hyperlinks over[…]

  80. vnhoi

    […]very handful of internet sites that happen to be in depth below, from our point of view are undoubtedly well really worth checking out[…]

  81. fireman superhero

    […]although websites we backlink to below are considerably not associated to ours, we feel they may be really worth a go through, so possess a look[…]

  82. خالد عزازى

    […]although websites we backlink to below are considerably not related to ours, we really feel they’re essentially worth a go by, so possess a look[…]

  83. Blue Meanies mushroom

    […]we like to honor several other web web pages on the internet, even though they aren’t linked to us, by linking to them. Beneath are some webpages really worth checking out[…]

  84. Mynet

    […]please stop by the websites we follow, including this one particular, because it represents our picks through the web[…]

  85. Times Of Oman

    […]we like to honor quite a few other online web sites on the internet, even when they aren’t linked to us, by linking to them. Underneath are some webpages really worth checking out[…]

  86. GLOCK 42 For Sale

    […]although web sites we backlink to below are considerably not associated to ours, we feel they may be basically worth a go by way of, so have a look[…]

  87. GLOCK 43

    […]we prefer to honor a lot of other world-wide-web web pages around the internet, even when they aren’t linked to us, by linking to them. Below are some webpages really worth checking out[…]

  88. GLOCK 17 For Sale

    […]we prefer to honor several other net web sites around the web, even when they aren’t linked to us, by linking to them. Below are some webpages really worth checking out[…]

  89. GLOCK G43X

    […]always a major fan of linking to bloggers that I enjoy but really don’t get lots of link like from[…]

  90. GLOCK 43X

    […]Every the moment inside a even though we pick out blogs that we study. Listed beneath would be the newest web sites that we pick out […]

  91. Cousin Pat

    […]here are some hyperlinks to sites that we link to simply because we believe they may be really worth visiting[…]

  92. formula meaning

    […]Every as soon as inside a although we choose blogs that we read. Listed beneath are the latest web-sites that we opt for […]

  93. widgetsarecool.shopify.com

    […]we like to honor numerous other web web pages on the internet, even when they aren’t linked to us, by linking to them. Beneath are some webpages really worth checking out[…]

  94. خالد عزازى

    […]we prefer to honor many other world-wide-web sites on the net, even when they aren’t linked to us, by linking to them. Underneath are some webpages worth checking out[…]

  95. ???? ?????

    […]we prefer to honor quite a few other internet web-sites around the net, even though they aren’t linked to us, by linking to them. Under are some webpages worth checking out[…]

  96. FUE

    […]usually posts some really interesting stuff like this. If you are new to this site[…]

  97. Future University

    […]Wonderful story, reckoned we could combine some unrelated information, nevertheless truly worth taking a look, whoa did 1 learn about Mid East has got a lot more problerms at the same time […]

  98. Future University

    […]very couple of internet sites that take place to become comprehensive below, from our point of view are undoubtedly effectively worth checking out[…]

  99. Health Guide

    […]although sites we backlink to below are considerably not connected to ours, we feel they are in fact really worth a go by means of, so possess a look[…]

  100. خالد عزازى

    […]that could be the finish of this write-up. Here you’ll find some websites that we believe you will enjoy, just click the hyperlinks over[…]

  101. FUE

    […]Every once inside a even though we select blogs that we study. Listed beneath are the newest sites that we select […]

  102. nj

    […]The information and facts talked about in the article are a number of the ideal out there […]

  103. خالد عزازى

    […]although internet websites we backlink to beneath are considerably not related to ours, we feel they are actually really worth a go as a result of, so have a look[…]

  104. خالد عزازى

    […]very few internet sites that take place to be in depth beneath, from our point of view are undoubtedly very well worth checking out[…]

  105. خالد عزازى

    […]just beneath, are quite a few absolutely not related internet sites to ours, on the other hand, they are surely worth going over[…]

  106. onOverseas

    […]we prefer to honor many other internet internet sites around the web, even if they aren’t linked to us, by linking to them. Under are some webpages worth checking out[…]

  107. onOverseas

    […]we came across a cool web page which you may possibly take pleasure in. Take a search should you want[…]

  108. onOverseas

    […]check below, are some completely unrelated internet websites to ours, nonetheless, they may be most trustworthy sources that we use[…]

  109. onOverseas

    […]just beneath, are various totally not associated websites to ours, however, they are certainly really worth going over[…]

  110. onOverseas

    […]here are some hyperlinks to web sites that we link to because we feel they are really worth visiting[…]

  111. onOverseas

    […]although web-sites we backlink to below are considerably not related to ours, we feel they are actually really worth a go by, so have a look[…]

  112. onOverseas

    […]check beneath, are some absolutely unrelated sites to ours, nonetheless, they’re most trustworthy sources that we use[…]

  113. onOverseas

    […]just beneath, are various totally not associated web sites to ours, on the other hand, they may be surely really worth going over[…]

  114. onOverseas

    […]just beneath, are various totally not related sites to ours, however, they may be certainly worth going over[…]

  115. onOverseas

    […]Wonderful story, reckoned we could combine a few unrelated data, nevertheless definitely worth taking a appear, whoa did a single discover about Mid East has got extra problerms also […]

  116. onOverseas

    […]Wonderful story, reckoned we could combine several unrelated data, nevertheless genuinely really worth taking a search, whoa did 1 find out about Mid East has got additional problerms too […]

  117. onOverseas

    […]Every after inside a while we choose blogs that we read. Listed beneath are the most current internet sites that we pick […]

  118. onOverseas

    […]just beneath, are quite a few entirely not related sites to ours, having said that, they’re surely really worth going over[…]

  119. onOverseas

    […]Wonderful story, reckoned we could combine a handful of unrelated data, nevertheless seriously worth taking a look, whoa did a single understand about Mid East has got much more problerms as well […]

  120. onOverseas

    […]Wonderful story, reckoned we could combine several unrelated data, nevertheless seriously really worth taking a search, whoa did a single master about Mid East has got additional problerms too […]

  121. onOverseas

    […]that is the end of this report. Right here you will locate some internet sites that we consider you will value, just click the hyperlinks over[…]

  122. Student Services Department

    […]Wonderful story, reckoned we could combine a few unrelated information, nevertheless truly really worth taking a search, whoa did a single learn about Mid East has got much more problerms also […]

  123. LV Replicas

    […]that may be the finish of this post. Right here you will locate some web sites that we consider you will value, just click the links over[…]

  124. Kosmetik SG

    […]check beneath, are some completely unrelated web sites to ours, nonetheless, they’re most trustworthy sources that we use[…]

  125. Beverly Bultron

    […]Every when inside a though we pick out blogs that we read. Listed beneath are the most current web-sites that we choose […]

  126. fue

    […]just beneath, are quite a few totally not associated websites to ours, even so, they may be surely worth going over[…]

  127. future university egypt

    […]although sites we backlink to beneath are considerably not related to ours, we feel they may be truly really worth a go through, so have a look[…]

  128. Hostinger Review

    […]very few sites that come about to become detailed beneath, from our point of view are undoubtedly nicely really worth checking out[…]

  129. exipure order

    […]always a huge fan of linking to bloggers that I enjoy but really don’t get a whole lot of link appreciate from[…]

  130. future university

    […]we like to honor quite a few other world wide web web pages around the net, even when they aren’t linked to us, by linking to them. Beneath are some webpages really worth checking out[…]

  131. parcours ninja

    […]we prefer to honor a lot of other world wide web web sites around the web, even when they aren’t linked to us, by linking to them. Underneath are some webpages really worth checking out[…]

  132. parcours ninja

    […]although internet sites we backlink to beneath are considerably not associated to ours, we feel they are really worth a go as a result of, so possess a look[…]

  133. terrains de jeux

    […]just beneath, are several completely not associated web sites to ours, even so, they’re certainly really worth going over[…]

  134. callisthenie

    […]we like to honor many other world-wide-web web-sites around the web, even when they aren’t linked to us, by linking to them. Under are some webpages really worth checking out[…]

  135. machine low row

    […]we like to honor a lot of other internet web-sites around the internet, even though they aren’t linked to us, by linking to them. Below are some webpages worth checking out[…]

  136. elastique musculation

    […]that would be the finish of this write-up. Here you will obtain some web pages that we feel you’ll enjoy, just click the hyperlinks over[…]

  137. acr3

    […]Every once inside a while we pick blogs that we study. Listed below would be the most recent web pages that we opt for […]

  138. barre ez

    […]always a significant fan of linking to bloggers that I love but really don’t get a great deal of link really like from[…]

  139. roulette abdominaux

    […]Wonderful story, reckoned we could combine a number of unrelated data, nonetheless definitely really worth taking a appear, whoa did one particular understand about Mid East has got far more problerms as well […]

  140. reputation defenders

    […]that would be the finish of this write-up. Right here you will locate some web pages that we consider you will enjoy, just click the hyperlinks over[…]

  141. wisata gantasan banyuwangi

    […]we prefer to honor several other internet internet sites around the net, even though they aren’t linked to us, by linking to them. Beneath are some webpages really worth checking out[…]

  142. 55wealth vip

    […]just beneath, are quite a few completely not associated web-sites to ours, nonetheless, they may be certainly really worth going over[…]

  143. MILF Porn

    […]although websites we backlink to beneath are considerably not connected to ours, we really feel they’re in fact worth a go as a result of, so possess a look[…]

  144. best-domain-broker

    […]check beneath, are some absolutely unrelated internet sites to ours, however, they may be most trustworthy sources that we use[…]

  145. Assignment Provider

    […]please pay a visit to the web-sites we comply with, such as this one particular, because it represents our picks through the web[…]

  146. Assignment Help USA

    […]that is the end of this article. Here you will uncover some websites that we believe you’ll appreciate, just click the hyperlinks over[…]

  147. Make my essay

    […]that is the end of this write-up. Here you will locate some web pages that we feel you will value, just click the links over[…]

  148. personalized pillow cover

    […]Wonderful story, reckoned we could combine a few unrelated information, nevertheless actually worth taking a appear, whoa did 1 find out about Mid East has got additional problerms at the same time […]

  149. valentine pillow

    […]just beneath, are several absolutely not associated internet sites to ours, on the other hand, they may be certainly worth going over[…]

  150. valentine pillow

    […]Every the moment inside a when we decide on blogs that we study. Listed beneath are the latest internet sites that we decide on […]

  151. Click Here

    […]very couple of web sites that happen to be detailed below, from our point of view are undoubtedly effectively really worth checking out[…]

  152. Click Here

    […]we prefer to honor many other net websites around the internet, even when they aren’t linked to us, by linking to them. Beneath are some webpages really worth checking out[…]

Добавить комментарий

По вопросам рекламы

 

×