人工知能の起源から: 1980 年代が今日の生成モデルの基礎をどのように築いたか - 画像: Xpert.Digital
AI の先駆者: 1980 年代が先見の明のある人々の 10 年だった理由
革命的な 80 年代: ニューラル ネットワークと現代の AI の誕生
1980 年代はテクノロジーの世界における変化と革新の 10 年でした。コンピューターが企業や家庭にますます浸透するにつれて、科学者や研究者は機械をよりインテリジェントにすることに取り組みました。この時代は、今日私たちが当たり前だと思っている多くのテクノロジー、特に人工知能 (AI) の分野の基礎を築きました。この 10 年間の進歩は画期的であるだけでなく、今日のテクノロジーとの関わり方に大きな影響を与えました。
ニューラルネットワークの復活
1970 年代のニューラル ネットワークに対する懐疑的な時期を経て、1980 年代にニューラル ネットワークの復活を経験しました。これは主に、ジョン ホップフィールドとジェフリー ヒントンの働きによるものです。
ジョン・ホップフィールドとホップフィールド・ネットワークス
1982 年、ジョン ホップフィールドはニューラル ネットワークの新しいモデルを発表し、後にホップフィールド ネットワークとして知られるようになりました。このネットワークはパターンを保存し、エネルギーの最小化を通じてパターンを取得することができました。これは連想記憶への重要な一歩を表し、ニューラル ネットワークを使用して情報を堅牢に保存および再構築する方法を示しました。
ジェフリー・ヒントンとボルツマン・マシン
最も影響力のある AI 研究者の 1 人であるジェフリー ヒントンは、テレンス セジナウスキーとともにボルツマン マシンを開発しました。この確率的ニューラル ネットワーク システムは複雑な確率分布を学習でき、データ内のパターンを認識するために使用されました。ボルツマン マシンは、ディープ ラーニングと生成モデルの分野におけるその後の多くの開発の基礎を築きました。
これらのモデルは、ニューラル ネットワークを使用してデータを分類するだけでなく、新しいデータや完全な不完全なデータを生成する方法を示したので画期的でした。これは、今日多くの分野で使用されている生成モデルに向けた決定的な一歩でした。
エキスパート システムの台頭
1980 年代はエキスパート システムの 10 年でもありました。これらのシステムは、複雑な問題を解決するために、特定の分野における人間の専門家の専門知識を体系化して活用することを目的としていました。
定義と適用
エキスパート システムは、知識が if-then ルールの形式で保存されるルールベースのアプローチに基づいています。医療、金融、製造など多くの分野で使用されています。よく知られた例としては、細菌感染症の診断に役立つ医療専門家システム MYCIN があります。
AIの重要性
エキスパート システムは、実用的なアプリケーションにおける AI の可能性を示しました。彼らは、これまで人間の専門知識が必要だった意思決定や問題の解決に機械の知識をどのように活用できるかを実証しました。
エキスパート システムは成功を収めましたが、ルールベースのアプローチには限界があることも実証しました。多くの場合、更新が難しく、不確実性にうまく対処できませんでした。これが再考につながり、機械学習における新しいアプローチのためのスペースが生まれました。
機械学習の進歩
1980 年代は、ルールベースのシステムからデータ駆動型の学習方法への移行を示しました。
逆伝播アルゴリズム
重要な進歩は、ニューラル ネットワークのバックプロパゲーション アルゴリズムの再発見と普及でした。このアルゴリズムにより、ネットワークを通じて誤差を逆方向に伝播することで、多層ニューラル ネットワーク内の重みを効率的に調整することが可能になりました。これにより、より深いネットワークがより実用的なものとなり、今日のディープラーニングの基礎が築かれました。
単純な生成モデル
分類タスクに加えて、研究者はデータの基礎となる分布を学習する生成モデルの開発を開始しました。 Naive Bayes 分類器は、その仮定にもかかわらず、多くの実際のアプリケーションでうまく使用されている単純な確率モデルの一例です。
これらの進歩により、マシンは事前定義されたルールに依存するだけでなく、データから学習してタスクを完了できることがわかりました。
技術的な課題と画期的な進歩
理論的な進歩は期待できましたが、研究者たちは現実的には重大な課題に直面していました。
限られたコンピューティング能力
1980 年代のハードウェアは、今日の標準に比べて非常に限定的でした。複雑なモデルのトレーニングには時間がかかり、法外な費用がかかることもよくありました。
勾配消失問題
バックプロパゲーションを使用してディープ ニューラル ネットワークをトレーニングする場合、一般的な問題は、下位層の勾配が小さすぎて効果的な学習ができないということでした。これにより、より深いモデルのトレーニングがはるかに困難になりました。
革新的なソリューション:
制限付きボルツマン マシン (RBM)
これらの問題に対処するために、ジェフリー ヒントンは制限付きボルツマン マシンを開発しました。 RBM はボルツマン マシンの簡略化されたバージョンであり、ネットワーク構造に制限があり、トレーニングが容易になりました。これらはより深いモデルの構成要素となり、ニューラル ネットワークのレイヤーごとの事前トレーニングを可能にしました。
階層化された事前トレーニング
一度に 1 層ずつネットワークを段階的にトレーニングすることで、研究者は深いネットワークをより効果的にトレーニングできるようになりました。各層は前の層の出力を変換する方法を学習し、その結果全体的なパフォーマンスが向上しました。
これらの革新は、技術的なハードルを克服し、ニューラル ネットワークの実用性を向上させる上で極めて重要でした。
80年代の研究の長寿
現在使用されている深層学習技術の多くは、1980 年代の研究にその起源を持っています - 画像: Xpert.Digital
1980 年代に開発された概念は、当時の研究に影響を与えただけでなく、将来の画期的な進歩への道を切り開きました。
初の独立した人工知能研究所である一汽ウルム (応用指向知識処理研究所) は 1987 年に設立されました。 DaimlerChrysler AG、Jenoptik AG、Hewlett-Packard GmbH、Robert Bosch GmbH などの企業が関与しました。私は 1988 年から 1990 年まで研究助手としてそこにいました。
ディープラーニングの基盤
現在使用されているディープラーニング技術の多くは、1980 年代の研究に起源を持っています。逆伝播アルゴリズムのアイデア、隠れ層を備えたニューラル ネットワークの使用、および層ごとの事前トレーニングは、最新の AI モデルの中心的なコンポーネントです。
最新の生成モデルの開発
ボルツマン マシンと RBM に関する初期の研究は、変分オートエンコーダ (VAE) と敵対的生成ネットワーク (GAN) の開発に影響を与えました。これらのモデルを使用すると、リアルな画像、テキスト、その他のデータを生成でき、芸術、医療、エンターテイメントなどの分野で応用できます。
他の研究分野への影響
1980 年代の手法と概念は、統計学、物理学、神経科学などの他の分野にも影響を与えました。この研究の学際性により、人工システムと生物学的システムの両方に対するより深い理解がもたらされました。
応用例と社会への影響
1980 年代の進歩により、今日のテクノロジーの多くの基礎を形成する特定のアプリケーションが誕生しました。
音声認識と合成
初期のニューラル ネットワークは、音声パターンを認識して再現するために使用されました。これは、Siri や Alexa などの音声アシスタントの基礎を築きました。
画像およびパターン認識
複雑なパターンを認識するニューラル ネットワークの機能は、医療画像処理、顔認識、その他のセキュリティ関連技術に応用されています。
自律システム
1980 年代の機械学習と AI の原理は、自動運転車やロボットの開発の基礎です。
1980 年代: 知的学習と生成
1980 年代は間違いなく AI 研究における変化の 10 年でした。限られたリソースと多くの課題にもかかわらず、研究者たちは学習して生成できるインテリジェントなマシンのビジョンを持っていました。
今日、私たちはこれらの基盤の上に構築され、人工知能が生活のほぼあらゆる側面に存在する時代を経験しています。インターネット上のパーソナライズされた推奨事項から医学の画期的な進歩に至るまで、1980 年代に始まったテクノロジーがイノベーションを推進しています。
この時代のアイデアやコンセプトが、今日、非常に複雑で強力なシステムにどのように実装されているかを見るのは興味深いことです。先駆者たちの取り組みは技術の進歩を可能にしただけでなく、私たちの社会における AI の役割についての哲学的および倫理的な議論も引き起こしました。
1980 年代の人工知能分野の研究開発は、私たちが今日使用している最新テクノロジーを形作る上で極めて重要でした。この 10 年間の研究者たちは、ニューラル ネットワークを導入して改良し、技術的課題を克服し、学習して生成できるマシンを作成するというビジョンを描くことによって、AI が中心的な役割を果たす未来への道を切り開きました。
今回の成功と挑戦は、基礎研究とイノベーションの追求がいかに重要であるかを私たちに思い出させます。 1980 年代の精神は、新たな AI 開発のたびに生き続け、将来の世代が可能なことの限界を押し広げ続けるよう促します。
に適し：