AI/機械学習 の記事一覧

こんにちは。DX推進開発部というチームでアプリケーションエンジニアをしている鈴木です。レガシーシステムのログひっ迫問題を、生成AIを利用して解決した話を書いてみようと思います。 はじめに 私は社内向けの内製システムの開発・保守運用チームでアプリケーションエンジニアをしています。担当するシステムは多岐にわたるのですが、中にはレガシーと呼ばれる古いシステムも存在します。小規模なシステムなのですが、古い分潜在的な課題が残っていることがあります。 ある日、担当するシステムの一つ（Windowsバッチアプリケーション）で、サーバーの容量がひっ迫しているという問題が発生しました。 この問題に生成AIを利用して課題解決をしていったことを書いていきます。 ログ管理の問題 サーバーの容量ひっ迫について調査した結果、原因は膨大なログファイルデータによる容量不足であることが判明しました。 さらに調査を続けたところ、ログファイルに対して、いわゆるログローテーションと呼ばれる有効な設定（アーカイブや削除等）が入っておりませんでした。 生成AIに最適解を聞いてみる ログローテーションに対して正しい知見を持っていなかったため、生成AIに相談してみます。 以下はプロンプトです。今回はGemini 1.5 Flashを利用しました。 命令書:あなたは、優秀なシステムエンジニアです。以下の相談事項をもとに適切なアドバイスをしてください。相談事項:Windows環境でバッチのログ管理を検討しています。ログローテーションを導入するにあたって最適な方法を複数教えてください。 以下は回答です。 ログローテーションの最適解についてのアドバイスWindowsバッチアプリケーションでのログローテーションは、アプリケーションの安定性、メンテナンス性、そして可用性を考慮することが重要です。以下にいくつかの方法とツールについて解説します。1. ローカルでのログローテーションローカルスクリプトでのログローテーションWindowsバッチファイルを使ってログローテーションを実現するシンプルな方法です。（省略）2. クラウドベースの解決策ログデータをクラウドベースで管理することで、柔軟性やスケーラビリティが向上します。例えば、AWS、Azure、Google Cloud などのクラウドプロバイダーを利用できます。（省略）3. 専用ツールの利用-  Splunk：Splunk はログデータの収集、分析、監視を行う強力なツールです。以下に簡単な設定手順を紹介します。-  Logstash  と  ElasticSearch  を含む  ELK Stack ：これにより、ログの収集、解析、および可視化が可能です。-  Graylog ：集中ログ管理を行うオープンソースツールで、ログデータの収集、インデックス作成、リアルタイム検索が可能です。 スクリプトを組むか、クラウドサービスを利用するか、サードパーティのツールを利用する手段を提示してくれました。念のためGoogleで検索をしましたが概ね同じ内容が得られました。 しかしクラウドサービスやサードパーティツールは利用料がかかります。移行費用も含め、レガシーシステムにそこまでのコストを払うのは現実的ではありません。そのためスクリプトを組むという方針で対応することにします。 コーディング コーディングも例によってAIにお願いします。今回はD:\APPLOGs\Logsというフォルダに「GMO01.YYYYMMDD.log」という名称で溜まっていくシンプルなログを想定してスクリプトを組んでもらいます。 あなたは、PowerShellに精通した優秀なエンジニアです。以下の条件をもとに、PowerShellのスクリプトをコーディングしてください。# 条件・ログファイルのパス：D:\APPLOGs\Logs・圧縮ファイルの格納パス：D:\APPLOGs\Logs\Archive・ログファイルのファイル名：GMO01.YYYYMMDD.log（例：GMO01.20231231.log）・１週間前までのログファイルを圧縮する・２年前までの圧縮ファイルは削除する スクリプトの生成は1回で期待する成果は返ってこないので、複数回のラリーとトライ＆エラーをしています。最終的に以下のようなコードとなりました。 # パス設定 $LogFilePath = "D:\APPLOGs\Logs" $ArchivePath = "D:\APPLOGs\Logs\Archive" $LogFileNamePrefix = "GMO01" $CompressionFormat = "Zip" $DaysToCompress = 7 $YearsToDelete = 2 $Now = Get-Date $CompressDate = $Now.AddDays(-$DaysToCompress) $DeleteDate = $Now.AddYears(-$YearsToDelete) $logOutputPath = "D:\APPLOGs\script_output.log" # ログ出力用関数 function WriteLog { param( [string]$message ) $timestamp = Get-Date -Format "yyyy-MM-dd HH:mm:ss" $logEntry = "$timestamp - $message" $logEntry | Out-File -FilePath $logOutputPath -Append -Encoding UTF8 Write-Host $logEntry } WriteLog "Starting the script..." # ログファイルを取得 Try { WriteLog "Starting to retrieve log files..." $LogFiles = Get-ChildItem -Path $LogFilePath -Filter "$LogFileNamePrefix*.log" WriteLog ("Retrieved log file list: {0} files" -f $LogFiles.Count) if ($LogFiles.Count -eq 0) { WriteLog "No target log files found." } } Catch { WriteLog "Error occurred while retrieving log files: $_" Exit } # ログファイルを圧縮し、元のファイルを削除 foreach ($LogFile in $LogFiles) { Try { if ($LogFile.LastWriteTime -le $CompressDate) { $DestinationFile = Join-Path -Path $ArchivePath -ChildPath ($LogFile.BaseName + ".zip") Compress-Archive -Path $LogFile.FullName -DestinationPath $DestinationFile -CompressionLevel Optimal -Force WriteLog ("Compressed log file and moved to Archive folder: {0} -> {1}" -f $LogFile.FullName, $DestinationFile) # 元のログファイルを削除 Remove-Item -Path $LogFile.FullName -Force WriteLog ("Deleted original log file: {0}" -f $LogFile.FullName) } } Catch { WriteLog "Error occurred during log file compression or deletion: $_" } } # 指定日付より古い圧縮ファイルを削除 Try { WriteLog "Starting to retrieve compressed files..." $CompressedFiles = Get-ChildItem -Path $ArchivePath -Filter "$LogFileNamePrefix*.zip" WriteLog ("Retrieved compressed file list: {0} files" -f $CompressedFiles.Count) if ($CompressedFiles.Count -eq 0) { WriteLog "No target compressed files found for deletion." } Else { foreach ($CompressedFile in $CompressedFiles) { Try { # ファイル名から日付を抽出（例：GMO01_yyyyMMdd.zip） $fileName = $CompressedFile.BaseName if ($fileName -match "$LogFileNamePrefix`.(\d{8})") { $dateString = $matches[1] # yyyyMMdd 形式の文字列 $fileDate = [datetime]::ParseExact($dateString, "yyyyMMdd", $null) WriteLog ("Date of compressed file: {0}, check date: {1}" -f $fileDate, $DeleteDate) if ($fileDate -le $DeleteDate) { Remove-Item -Path $CompressedFile.FullName -Force WriteLog ("Deleted compressed file: {0}" -f $CompressedFile.FullName) } Else { WriteLog ("Compressed file is not target for deletion: {0}" -f $CompressedFile.FullName) } } Else { WriteLog ("Compressed file name format is incorrect: {0}" -f $CompressedFile.FullName) } } Catch { WriteLog "Error occurred during compressed file deletion: $_" } } } } Catch { WriteLog "Error occurred while retrieving compressed files: $_" } WriteLog "Script execution completed." こちらのスクリプトをタスクスケジューラにタスク設定します。週1の起動設定をすれば、毎週圧縮＆削除を実施してくれるようになります。 スクリプトの解説 # ログ出力用関数 function WriteLog { param( [string]$message ) $timestamp = Get-Date -Format "yyyy-MM-dd HH:mm:ss" $logEntry = "$timestamp - $message" $logEntry | Out-File -FilePath $logOutputPath -Append -Encoding UTF8 Write-Host $logEntry } このスクリプトを実施した際のログ出力用の関数$logOutputPath = "D:\APPLOGs\script_output.log"に出力します。 # ログファイルを圧縮し、元のファイルを削除 foreach ($LogFile in $LogFiles) { Try { if ($LogFile.LastWriteTime -le $CompressDate) { $DestinationFile = Join-Path -Path $ArchivePath -ChildPath ($LogFile.BaseName + ".zip") Compress-Archive -Path $LogFile.FullName -DestinationPath $DestinationFile -CompressionLevel Optimal -Force WriteLog ("Compressed log file and moved to Archive folder: {0} -> {1}" -f $LogFile.FullName, $DestinationFile) # 元のログファイルを削除 Remove-Item -Path $LogFile.FullName -Force WriteLog ("Deleted original log file: {0}" -f $LogFile.FullName) } } Catch { WriteLog "Error occurred during log file compression or deletion: $_" } } ログファイルの最終更新日時が$CompressDate以前かどうかを判定。このサンプルでは$CompressDateは7日前です。$CompressDate以前であれば、ログファイルを ZIP 形式で圧縮し、指定されたフォルダに移動します。圧縮が成功したら、元のログファイルを削除します。 # 指定日付より古い圧縮ファイルを削除 Try { WriteLog "Starting to retrieve compressed files..." $CompressedFiles = Get-ChildItem -Path $ArchivePath -Filter "$LogFileNamePrefix*.zip" WriteLog ("Retrieved compressed file list: {0} files" -f $CompressedFiles.Count) if ($CompressedFiles.Count -eq 0) { WriteLog "No target compressed files found for deletion." } Else { foreach ($CompressedFile in $CompressedFiles) { Try { # ファイル名から日付を抽出（例：GMO01_yyyyMMdd.zip） $fileName = $CompressedFile.BaseName if ($fileName -match "$LogFileNamePrefix`.(\d{8})") { $dateString = $matches[1] # yyyyMMdd 形式の文字列 $fileDate = [datetime]::ParseExact($dateString, "yyyyMMdd", $null) WriteLog ("Date of compressed file: {0}, check date: {1}" -f $fileDate, $DeleteDate) if ($fileDate -le $DeleteDate) { Remove-Item -Path $CompressedFile.FullName -Force WriteLog ("Deleted compressed file: {0}" -f $CompressedFile.FullName) } Else { WriteLog ("Compressed file is not target for deletion: {0}" -f $CompressedFile.FullName) } } Else { WriteLog ("Compressed file name format is incorrect: {0}" -f $CompressedFile.FullName) } } Catch { WriteLog "Error occurred during compressed file deletion: $_" } } } } Catch { WriteLog "Error occurred while retrieving compressed files: $_" } アーカイブファイルの削除を実施します。削除条件はファイル名に含まれる日付が$DeleteDateよりも前かどうかで判定します。このサンプルでは$DeleteDateは2年前です。 おわりに 今回、生成AIの力を借りて課題解決をした経験を書いてみました。対応方針のヒントをもらい、開発コストを抑えることができました。 このように最近では生成AIを利用して効率的に課題解決を目指す機会が増えています。開発の時間を極力減らし、より生産的な作業に集中するということが重要になってきていると思います。 最後に、散々言われていることですが、生成AIも万能ではないです。出力内容が正確ではないこともあるため注意が必要です。コーディングに関しての所感ですが、エラー処理、セキュリティ対策などはきちんと条件に含めないと正しく入れてくれないことが多いと感じています。アイデア出しや基本的なコード作成は非常に強力ですが、最終的には自身でのチェックが必須になってきます。

皆さんはじめまして。アーキテクトチームに所属している宇山です。私は現在、あるプロジェクトで大量の会話データを活用したローカルな大規模言語モデル（LLM）を開発するべく日々検討を重ねています。今回はその性能を向上させる2つの重要な技術である、RAG（Retrieval-Augmented Generation）とファインチューニングに焦点を当てて解説していきます。これらの手法は、AIの性能を向上させる上で非常に重要ですが、未経験の方にはちょっと難しく感じるかもしれません。そこで、できるだけわかりやすく説明していきますので、ぜひ最後までお付き合いください。 ローカルLLMとは まず、「ローカルLLM」について簡単に説明します。ローカルLLMとは、ChatGPT、Gemini、Claudeのような外部のSaaSサービスを介さず、ユーザーや組織が管理する環境で直接動作する大規模言語モデルのことです。とはいえ、パソコン上で動作するような小さなモデルでは多くのデータを扱えないため、弊社が提供しているConoHa GPUサーバのようなVPSを利用します。これにより、データのプライバシーも確保しやすくなります。 なぜRAGやファインチューニングが必要なのか 事前学習済みのLLMは非常に強力ですが、以下のような限界があります： 1. 知識の更新: LLMの知識は学習時点で固定されます。新しい情報に対応できません。2. 専門性の不足: 一般的な知識は広くカバーしていますが、特定の分野や業界に特化した深い知識は不十分な場合があります。3. タスク特化の難しさ: 汎用モデルは多様なタスクをこなせますが、特定のタスクで人間レベルの精度を出すのは難しいことがあります。4. プライバシーとセキュリティ: 一般的なLLMは公開データで学習されているため、機密情報を扱う際にはリスクがあります。5. カスタマイズの制限: ユーザーや組織固有のニーズに合わせてモデルの動作を調整することが困難です。 これらの課題に対処するために、RAGとファインチューニングが重要になってきます。これらの技術を使用することで、LLMの能力を大幅に向上させ、より実用的で効果的なAIソリューションを作ることができるのです。 RAG（Retrieval-Augmented Generation）とは RAGは、「検索拡張生成」と訳されることもある技術で、厳密には学習手法ではなく、LLMの推論プロセスを拡張する方法です。 RAGの特徴： 既存のLLMを使用し、外部の知識ベースから関連情報を取得して回答を生成します。 モデル自体を変更せず、質問に応じて適切な情報を検索し、それを基に回答を生成します。 RAGの利点： モデルの再学習が不要なので、新しい情報を素早く取り入れられます。 特定の分野や最新の情報に対応しやすくなります。 RAGの欠点： 外部知識ベースの質と量に依存するため、準備に時間がかかる場合があります。 検索精度によって回答の質が左右されます。 ファインチューニングとは ファインチューニングは、既存の事前学習済みモデルを特定のタスクや領域に適応させる学習手法です。 ファインチューニングの特徴： 事前学習済みのLLMを、特定のデータセットで追加学習させます。 モデルの重みを調整し、特定のタスクや領域に特化させます。 ファインチューニングの利点： 特定の分野や用途に高度に最適化できます。 一度学習すれば、その後の推論が高速になります。 ファインチューニングの欠点： 大量の学習データと計算リソースが必要です。 新しい情報を追加する際は再学習が必要になります。 RAGとファインチューニングの比較 わかりやすく表にまとめてみました。 特徴RAGファインチューニング学習の必要性不要必要新情報の追加容易再学習が必要リソース要求比較的少ない多い特定分野への適応柔軟高度に最適化可能推論速度やや遅い速い どちらを選ぶべきか RAGが適している場合： 頻繁に更新される情報を扱う必要がある 特定のドメイン知識を柔軟に組み込みたい 学習のためのリソースが限られている ファインチューニングが適している場合： 特定の領域で非常に高い精度が求められる 推論速度が重要である 十分な学習データとリソースがある まとめ RAGとファインチューニングは、どちらもローカルLLMの性能を向上させる強力な手法です。これらの技術は、LLMの限界を克服し、より適応性が高く、精度の高いAIソリューションを実現するために不可欠です。RAGは柔軟性と即時性に優れ、ファインチューニングは特定タスクへの最適化に強みがあります。プロジェクトの要件や利用可能なリソースを考慮して、適切な手法を選択することが重要です。 ちなみに我々のプロジェクトでは両方を採用し、最適な手法を検討しています。 AI技術は日々進化しています。ぜひ、自身のプロジェクトに最適な方法を見つけてみてください。

こんにちは。GMOインターネットグループ株式会社の長谷川です。プロジェクト統括チームに所属しており、普段はプロジェクトマネジメント業務を担当し、プロジェクトの進捗管理や課題管理を行っています。元々はプログラマーを行っておりましたが、最近はプログラムに触れる機会も多くあり、DDDってなんだろう、と思う機会も多くあります。今回は、コーディングを行わなくなった元エンジニアでも簡単にツールを作成できる手段としてChatGPTを利用する方法をご紹介します。 はじめに 記事の対象者 本記事は、PHPやLaravelフレームワーク、DDD（ドメイン駆動設計）に少し知識がある方であれば理解できる内容となっております。また、過去にプログラミングを行っていただけれども、最近あまり触れていないなどの方も今後のコーディング手段としてご利用できる内容となっております。 注意点 本記事の情報は、著者の個人的な見解に基づくものであり、正確性などを保証するものではありません。 また実際とは異なるものを作成しております。他の方法で効率が良い方法もありますが、一例としてご理解ください。 今回の実施内容 処理内容としては、約200万行のCSVファイルを読み込み、データベースに保存する処理です。正直、CSVインポート機能を利用した方が早いです。 個人的な見解としては、1回の命令文で回答を求めるのではなく、複数回の命令を繰り返し、少しずつ情報をインプットさせることで、より良い結果が得られるのではないかと思います。今回は、そのようなケースについて実施した内容をご紹介します。 実行環境 ChatGPT 4oAlmaLinux 9PHP 8.3Laravel Framework 10MySQL 8.0 1回の命令文で結果を求めた場合 プロンプト内容 #命令文 以下の条件に従ってPHPのコードを記述してください。 #条件 プロジェクト名：ImportIpAddress OS：AlmaLinux 9 言語：PHP 8.3 DB：Mysql 8.0 フレームワーク：Laravel Framework 10 実行形式：コマンドラインアプリケーション 設計手法：DDD その他： コマンドクラスはphp artisan make:commandで作成する 取得したデータはEntityクラスで取り扱う #仕様 ・CSVファイルを読み込む(約200万件) 　データ保存場所：storage/app/private 　ファイル名：ip_address.csv 　ファイル形式：CSV 　カラム情報："ACCOUNTID","CREATEDDATE","ROLE","DOMAINNEWSFLG","ORGANIZATIONML","DOMAINID","DOMAINNAMEML","REGISTRYCREATEDDATE","EXPIRATIONDATE","HOSTNAME","RECORDTYPE","RECVALUE","RECORDSTATUS","REFLECTSTATUS" ・RECORDTYPEが20以外の行はスキップする。 ・DBに保存する 　テーブル名：tbl_ip_addresses 　カラム名： 　　id int(11) primary key 　　domain_id int(11) not null 　　domain_name string(255) not null 　　ip_address string(15) not null 既にDOMAINID、RECVALUEが重複したデータがDBに存在する場合には書き込みを実施しない ChatGPT出力結果 以下は、条件に基づいてコマンドラインアプリケーションのPHPコードを記述したものです。Laravelのコマンドクラスを使い、DDD設計手法に従って、CSVファイルを読み込み、条件に合致するデータをデータベースに保存するコードです。 まず、コマンドクラスを作成します： php artisan make:command ImportIpAddresses 生成されたコマンドクラス ImportIpAddresses.php を以下のように編集します。 <?php namespace App\Console\Commands; use Illuminate\Console\Command; use App\Domain\Services\IpAddressService; class ImportIpAddresses extends Command { protected $signature = 'import:ip-addresses'; protected $description = 'Import IP addresses from CSV file'; private $ipAddressService; public function __construct(IpAddressService $ipAddressService) { parent::__construct(); $this->ipAddressService = $ipAddressService; } public function handle() { $filePath = storage_path('app/private/ip_address.csv'); $this->ipAddressService->importFromCsv($filePath); } } 次に、サービスクラス IpAddressService.php を作成します。 <?php namespace App\Domain\Services; use App\Domain\Entities\IpAddress; use App\Domain\Repositories\IpAddressRepository; use League\Csv\Reader; class IpAddressService { private $ipAddressRepository; public function __construct(IpAddressRepository $ipAddressRepository) { $this->ipAddressRepository = $ipAddressRepository; } public function importFromCsv($filePath) { $csv = Reader::createFromPath($filePath, 'r'); $csv->setHeaderOffset(0); foreach ($csv as $record) { if ($record['RECORDTYPE'] != 20) { continue; } $ipAddress = new IpAddress( $record['DOMAINID'], $record['DOMAINNAMEML'], $record['RECVALUE'] ); if (!$this->ipAddressRepository->exists($ipAddress)) { $this->ipAddressRepository->save($ipAddress); } } } } エンティティクラス IpAddress.php を作成します。 <?php namespace App\Domain\Entities; class IpAddress { private $domainId; private $domainName; private $ipAddress; public function __construct($domainId, $domainName, $ipAddress) { $this->domainId = $domainId; $this->domainName = $domainName; $this->ipAddress = $ipAddress; } public function getDomainId() { return $this->domainId; } public function getDomainName() { return $this->domainName; } public function getIpAddress() { return $this->ipAddress; } } リポジトリクラス IpAddressRepository.php を作成します。 <?php namespace App\Domain\Repositories; use App\Domain\Entities\IpAddress; use Illuminate\Support\Facades\DB; class IpAddressRepository { public function exists(IpAddress $ipAddress) { return DB::table('tbl_ip_addresses') ->where('domain_id', $ipAddress->getDomainId()) ->where('ip_address', $ipAddress->getIpAddress()) ->exists(); } public function save(IpAddress $ipAddress) { DB::table('tbl_ip_addresses')->insert([ 'domain_id' => $ipAddress->getDomainId(), 'domain_name' => $ipAddress->getDomainName(), 'ip_address' => $ipAddress->getIpAddress() ]); } } 最後に、テーブルを作成するためのマイグレーションを実行します。 php artisan make:migration create_tbl_ip_addresses_table 生成されたマイグレーションファイルを以下のように編集します。 <?php use Illuminate\Database\Migrations\Migration; use Illuminate\Database\Schema\Blueprint; use Illuminate\Support\Facades\Schema; class CreateTblIpAddressesTable extends Migration { public function up() { Schema::create('tbl_ip_addresses', function (Blueprint $table) { $table->id(); $table->integer('domain_id'); $table->string('domain_name', 255); $table->string('ip_address', 15); $table->timestamps(); $table->unique(['domain_id', 'ip_address']); }); } public function down() { Schema::dropIfExists('tbl_ip_addresses'); } } これで、コマンドを実行してCSVファイルを読み込み、データベースに保存することができます。 php artisan migrate php artisan import:ip-addresses 結果に対するコメント（1回の命令文で結果を求めた場合） それっぽく作成されてはいるのですが、”App\Domain\Repositories”にあるファイルがインターフェースではなく実装クラスとなっています。本来は、”App\Domain\Repositories”はインターフェースクラスとなり、”App\Infrastructure\Repositories”に実装クラスがあるのが良いのではないかと思います。 複数回の命令文で結果を求めた場合 命令文（1回目） プロンプト内容 #命令文 以下の条件でプログラムを作成する 適切なディレクトリ構造を提案してください #条件 プロジェクト名：ImportIpAddress OS：AlmaLinux 9 言語：PHP 8.3 DB：Mysql 8.0 フレームワーク：Laravel Framework 10 実行形式：コマンドラインアプリケーション 設計手法：DDD ChatGPT出力結果 以下は、ImportIpAddress プロジェクトのためのディレクトリ構造です。 これはドメイン駆動設計 (DDD) の原則に基づいています。 ImportIpAddress/ ├── app/ │ ├── Console/ │ │ └── Commands/ │ ├── Domain/ │ │ ├── Models/ # エンティティや値オブジェクトを格納 │ │ ├── Repositories/ # リポジトリインターフェースを格納 │ │ ├── Services/ # ドメインサービスを格納 │ │ └── Exceptions/ # ドメイン固有の例外を格納 │ ├── Infrastructure/ │ │ ├── Persistence/ # 実際のリポジトリの実装を格納 │ │ ├── CSV/ # CSVファイルの読み込みに関する処理を格納 │ │ ├── MySQL/ # MySQLへのデータ保存に関する処理を格納 │ │ └── Services/ # インフラサービスを格納 │ └── Application/ │ ├── Services/ # アプリケーションサービスを格納 │ └── DTOs/ # データ転送オブジェクトを格納 ├── config/ ├── database/ │ ├── migrations/ │ └── seeders/ ├── routes/ │ └── console.php # コマンドラインルートを定義 ├── storage/ │ ├── app/ │ │ └── private/ │ │ └── ip_address.csv # CSVファイルの保存場所 │ └── logs/ ├── tests/ │ ├── Unit/ │ └── Feature/ ├── .env ├── composer.json └── artisan 各ディレクトリの説明・app/Console/Commands/: カスタムArtisanコマンドを配置します。・app/Domain/: ドメイン層を表現し、ビジネスロジックを含むエンティティ、リポジトリインターフェース、サービスなどを含みます。・app/Infrastructure/: インフラ層を表現し、データベースアクセス、外部サービスとの通信などを担当します。・app/Application/: アプリケーション層を表現し、アプリケーションサービスやDTO（データ転送オブジェクト）を含みます。・routes/console.php: コマンドラインルートを定義するためのファイルです。・storage/app/private/: プライベートデータの保存場所です。 この構造を使用して、DDDの原則に従った堅牢で拡張性のあるアプリケーションを開発できます。 命令文（2回目） プロンプト内容 #命令文 DDDの各ディレクトリのクラスの呼び出し可否のルールを教えてください。 ChtGPT出力結果 DDDの原則に基づいた各ディレクトリのクラスの呼び出し可否のルールについて説明します。以下のルールを参考にしてください。 ディレクトリと呼び出しルール 1．Domain Layer ・ Models: 他のドメインモデル、ドメインサービス、リポジトリから呼び出されます。インフラストラクチャ層やアプリケーション層から直接呼び出さない。 ・ Repositories: ドメインサービスやアプリケーションサービスから呼び出されます。リポジトリインターフェースの実装はインフラストラクチャ層に置く。 ・ Services: 他のドメインサービス、ドメインモデル、アプリケーションサービスから呼び出されます。インフラストラクチャ層から直接呼び出さない。 ・ Exceptions: ドメイン層内のエラー処理に使用します。他の層からもキャッチすることは可能ですが、発生はドメイン層内のみ。 2．Application Layer ・ Services: アプリケーションサービスは、ドメイン層のモデルやリポジトリ、インフラストラクチャ層のサービスを呼び出します。ユーザーインターフェース層やコマンドライン層から呼び出される。 ・ DTOs: アプリケーション層やインターフェース層でデータのやり取りに使用します。データの変換や転送に特化し、ビジネスロジックを含まない。 3．Infrastructure Layer ・ Persistence: リポジトリの実装が含まれ、ドメイン層のリポジトリインターフェースを実装します。アプリケーションサービスやドメインサービスから呼び出される。 ・ CSV: CSVファイルの読み込みや書き込みの処理が含まれ、インフラストラクチャサービスやアプリケーションサービスから呼び出される。 ・ MySQL: MySQLへのデータアクセス処理が含まれ、ドメイン層のリポジトリインターフェースの実装が置かれる。アプリケーションサービスやドメインサービスから呼び出される。 ・ Services: 外部サービスやインフラストラクチャ固有の処理が含まれ、アプリケーション層やドメイン層から呼び出される。 4．User Interface Layer (CLI, Web, etc.) ・ Console Commands: コマンドラインインターフェース（CLI）のエントリーポイントであり、アプリケーションサービスを呼び出します。ドメイン層やインフラストラクチャ層を直接呼び出さない。 具体的な例 Domain Model (app/Domain/Models): ドメインモデルは他のモデルやサービスとやり取りできますが、インフラストラクチャ層のクラスを直接呼び出すことはありません。 <?php namespace App\Domain\Models; class IpAddress { // IpAddressのプロパティとメソッド } Domain Service (app/Domain/Services): ドメインサービスはリポジトリインターフェースや他のドメインモデルを使用します。 <?php namespace App\Domain\Services; use App\Domain\Repositories\IpAddressRepositoryInterface; class IpAddressChecker { protected $ipAddressRepository; public function __construct(IpAddressRepositoryInterface $ipAddressRepository) { $this->ipAddressRepository = $ipAddressRepository; } // ドメインロジックを実装 } Application Service (app/Application/Services): アプリケーションサービスはドメインサービスやリポジトリを使用します。 <?php namespace App\Application\Services; use App\Domain\Services\IpAddressChecker; class IpAddressCheckService { protected $ipAddressChecker; public function __construct(IpAddressChecker $ipAddressChecker) { $this->ipAddressChecker = $ipAddressChecker; } // アプリケーションロジックを実装 } Infrastructure Repository Implementation (app/Infrastructure/Persistence): リポジトリの実装はインフラストラクチャ層に含まれ、ドメインリポジトリインターフェースを実装します。 <?php namespace App\Infrastructure\Persistence; use App\Domain\Repositories\IpAddressRepositoryInterface; class MySqlIpAddressRepository implements IpAddressRepositoryInterface { // MySQLへのデータアクセスロジックを実装 } このように、DDDの原則に従った呼び出しルールを守ることで、クリーンで保守性の高いコードベースを維持できます。 命令文（3回目） プロンプト内容 #命令文 以下の条件に従ってPHPのコードを記述してください。 #条件 プロジェクト名：ImportIpAddress OS：AlmaLinux 9 言語：PHP 8.3 DB：Mysql 8.0 フレームワーク：Laravel Framework 10 実行形式：コマンドラインアプリケーション 設計手法：DDD その他： コマンドクラスはphp artisan make:commandで作成する 取得したデータはEntityクラスで取り扱う #仕様 ・CSVファイルを読み込む(約200万件) 　データ保存場所：storage/app/private 　ファイル名：ip_address.csv 　ファイル形式：CSV 　カラム情報："ACCOUNTID","CREATEDDATE","ROLE","DOMAINNEWSFLG","ORGANIZATIONML","DOMAINID","DOMAINNAMEML","REGISTRYCREATEDDATE","EXPIRATIONDATE","HOSTNAME","RECORDTYPE","RECVALUE","RECORDSTATUS","REFLECTSTATUS" ・RECORDTYPEが20以外の行はスキップする。 ・DBに保存する 　テーブル名：tbl_ip_addresses 　カラム名： 　　id int(11) primary key 　　domain_id int(11) not null 　　domain_name string(255) not null 　　ip_address string(15) not null 既にDOMAINID、RECVALUEが重複したデータがDBに存在する場合には書き込みを実施しない ChatGPT出力結果 以下の条件に従って、ImportIpAddressプロジェクトのコードを記述します。DDD設計に基づき、コマンドクラス、エンティティクラス、リポジトリクラス、サービスクラスを定義し、CSVファイルを読み込み、データベースに保存するプロセスを実装します。 1．コマンドクラスの作成 まず、コマンドクラスを作成します。 php artisan make:command ImportIpAddresses 生成された app/Console/Commands/ImportIpAddresses.php を以下のように編集します。 <?php namespace App\Console\Commands; use Illuminate\Console\Command; use App\Application\Services\IpAddressImportService; class ImportIpAddresses extends Command { protected $signature = 'import:ipaddresses'; protected $description = 'Import IP addresses from CSV file'; protected $ipAddressImportService; public function __construct(IpAddressImportService $ipAddressImportService) { parent::__construct(); $this->ipAddressImportService = $ipAddressImportService; } public function handle() { $filePath = storage_path('app/private/ip_address.csv'); $this->ipAddressImportService->importFromCsv($filePath); $this->info('IP addresses imported successfully.'); } } 2．エンティティクラスの作成次に、エンティティクラスを定義します。 <?php namespace App\Domain\Models; class IpAddress { public $domainId; public $domainName; public $ipAddress; public function __construct(int $domainId, string $domainName, string $ipAddress) { $this->domainId = $domainId; $this->domainName = $domainName; $this->ipAddress = $ipAddress; } } 3．リポジトリインターフェースと実装の作成 リポジトリインターフェースとその実装を作成します。 リポジトリインターフェース <?php namespace App\Domain\Repositories; use App\Domain\Models\IpAddress; interface IpAddressRepositoryInterface { public function save(IpAddress $ipAddress): bool; public function exists(int $domainId, string $ipAddress): bool; } リポジトリ実装 <?php namespace App\Infrastructure\Persistence; use App\Domain\Models\IpAddress; use App\Domain\Repositories\IpAddressRepositoryInterface; use Illuminate\Support\Facades\DB; class MySqlIpAddressRepository implements IpAddressRepositoryInterface { public function save(IpAddress $ipAddress): bool { return DB::table('tbl_ip_addresses')->insert([ 'domain_id' => $ipAddress->domainId, 'domain_name' => $ipAddress->domainName, 'ip_address' => $ipAddress->ipAddress, ]); } public function exists(int $domainId, string $ipAddress): bool { return DB::table('tbl_ip_addresses') ->where('domain_id', $domainId) ->where('ip_address', $ipAddress) ->exists(); } } 4．サービスクラスの作成 サービスクラスを作成して、CSVファイルの読み込みとデータベース保存のロジックを実装します。 <?php namespace App\Application\Services; use App\Domain\Models\IpAddress; use App\Domain\Repositories\IpAddressRepositoryInterface; class IpAddressImportService { protected $ipAddressRepository; public function __construct(IpAddressRepositoryInterface $ipAddressRepository) { $this->ipAddressRepository = $ipAddressRepository; } public function importFromCsv(string $filePath) { if (!file_exists($filePath) || !is_readable($filePath)) { throw new \Exception("CSV file is not readable."); } $header = null; if (($handle = fopen($filePath, 'r')) !== false) { while (($row = fgetcsv($handle, 1000, ',')) !== false) { if (!$header) { $header = $row; } else { $data = array_combine($header, $row); if ($data['RECORDTYPE'] == 20) { $ipAddress = new IpAddress($data['DOMAINID'], $data['DOMAINNAMEML'], $data['RECVALUE']); if (!$this->ipAddressRepository->exists($ipAddress->domainId, $ipAddress->ipAddress)) { $this->ipAddressRepository->save($ipAddress); } } } } fclose($handle); } } } 5．サービスプロバイダーの登録リポジトリインターフェースと実装をサービスコンテナに登録します。 <?php namespace App\Providers; use Illuminate\Support\ServiceProvider; use App\Domain\Repositories\IpAddressRepositoryInterface; use App\Infrastructure\Persistence\MySqlIpAddressRepository; class AppServiceProvider extends ServiceProvider { public function register() { $this->app->singleton(IpAddressRepositoryInterface::class, MySqlIpAddressRepository::class); } public function boot() { // } } 6．マイグレーションの作成データベースのテーブルを作成するマイグレーションを作成します。 php artisan make:migration create_tbl_ip_addresses_table 生成されたマイグレーションファイルを以下のように編集します。 <?php use Illuminate\Database\Migrations\Migration; use Illuminate\Database\Schema\Blueprint; use Illuminate\Support\Facades\Schema; class CreateTblIpAddressesTable extends Migration { public function up() { Schema::create('tbl_ip_addresses', function (Blueprint $table) { $table->id(); $table->integer('domain_id')->unsigned(); $table->string('domain_name', 255); $table->string('ip_address', 15); $table->timestamps(); }); } public function down() { Schema::dropIfExists('tbl_ip_addresses'); } } 7．Artisanコマンドの実行最後に、Artisanコマンドを実行して、CSVファイルのデータをデータベースにインポートします。 php artisan import:ipaddresses この構成により、CSVファイルからIPアドレスを読み込み、条件に従ってMySQLデータベースに保存するDDD設計のコマンドラインアプリケーションが完成します。 結果に対するコメント（複数回の命令文で結果を求めた場合） 1回目の命令でChatGPTにディレクトリ構造とその役割を質問し、2回目の命令でディレクトリ構造における呼び出し可否や各レイヤーからどのクラスを呼び出せるかを質問しました。 この段階的なアプローチにより、App\Domain\RepositoriesとApp\Infrastructure\Persistenceの役割を認識した状態でコーディングが行われました。 「1回の命令文で結果を求める方法」では、DDDについての情報が不足していましたが、「複数回の命令文で結果を求める方法」では、あらかじめDDDについて学習させたうえで生成を行うことで、求めていた結果を得ることができました。 まとめ つまり、段階的な情報提供がChatGPTを効果的に活用するためには重要です。このアプローチにより、より精度の高い結果を得ることができ、生成AIの活用にも繋がります。また、生成AIを活用することで通常作成に4時間程度かかるツールも30分程度の時間でできるようになったりします。是非、皆さんもご利用してみてください。 次回も機会があれば、生成AIの活用方法について紹介していきますので、お楽しみにしてください。

お久ぶりです。中村です。前回、2023年の年末にOutlineのアップデートについてご紹介して半年が経ちました。新機能が増えていましたのでこの場でご紹介させていただきます 前回の記事 Outlineについての概要は前回記事を御覧ください。 https://developers.gmo.jp/33667/ https://developers.gmo.jp/41543/ アプデで何が変わった？ 前回ご紹介した際は【v0.74.0】でしたが、こちらを記載中の最新バージョンは【v0.77.2】です。 ※記載内容以外にも結構追加内容はあるんですが、　かなり長くなってしまうので中村がいいなと感じたものだけ抜粋してご紹介しますmm 新規機能の抜粋 AI Answersの実装 バージョン0.75.0で実装されました。 今回の目玉機能です。検索した質問にoutline上のコンテンツから情報を読み取って直接回答できるようになります。公式紹介はこちら 残念ながら有料版限定の機能ですが、クラウド版/セルフホスト版関わらずこの機能は利用可能です。次回以降のブログの中でこちらについては詳細なご紹介ができればと考えています。 添付ファイルをインラインで置き換えることが可能になった バージョン0.75.0で実装されました。 今まではファイルを一度消して、再UPする必要がありましたが、ボタンひとつで上記操作を行ってくれるようになりました。 検索をサブツリーに制限する「ドキュメント内検索」機能が追加 バージョン0.76.0で実装されました。 今までの検索はコレクションが検索のフィルタ最小単位でしたが、サブツリー内のドキュメントのみを対象にできるようになりました。 コレクション内の情報が増えてくると検索でHITする情報も増えてくるので、新規のフィルタができたのは嬉しい限りです。 表の列を任意サイズに変更可能になった バージョン0.77.0で実装されました。 列間の境界線をドラッグして列のサイズを変更できるようになりました。今までは自動調整のみだったので地味に嬉しい機能です。 表のセルに記載できるコンテンツタイプが増えた バージョン0.77.0で実装されました。 表のセルには一部の文字情報などしか記載できなかったのですが、今回のバージョンから、埋め込み/コードブロック/その他すべてのコンテンツタイプをサポートするようになりました。 これにより表の中に任意の情報を入れることが可能になり、情報の集約がしやすくなりました。 宣伝 ConoHa VPSでも、勿論outlineの構築が可能です！もし、気になる機能がある方は是非ConoHaで試していただければ幸いです！

どうも、こんにちは。GMOインターネットグループ株式会社でデザイナーをしている板垣と申します。私はタイトルの通り、デザイナーであってエンジニアではありません（HTML/CSS/Javascriptは読み書きできるが、エンジニアレベルではない）。そんな私と同じように、非エンジニアでありながらXDのプラグイン開発をしてみたい、という方に、「こうやったらできたよ」というひとつの例をお見せできたらと思ってこのブログを書きました。エンジニアの方は、自力でゴリゴリ開発していただければと思います。 なぜデザイナーがプラグイン開発をするのか ぶっちゃけ、なんでも話を聞いてくれて迅速に開発してくれるエンジニアが隣の席に座っているなら、自分で開発する必要なんてないと思います。 でも、そんな都合のいい環境はそうそうありませんよね？そもそも、「ちょっとこんな機能が軽くほしいだけなんだよなー」と思っても、エンジニアに開発を依頼するとなったら、仕様書を用意したり工数とスケジュールを算出したり、準備がとても大変です。また、エンジニアの方に依頼すると、きっちり動くものを作ってくれる反面、開発のリソースもコストも消費します。でも……自分だけが使うプラグインであれば、バグがあろうが、うまく動かなかろうが、使う自分が条件を理解さえしていればいいのです。「こういう条件の時だけうまく動く」というものなら、それを頭に入れて使えばいいだけ。自分が使うだけなのであれば、自分で作るのが結局いちばん省エネだと思うのです。 XDのプラグインを作るということ Adobe XDは、アップデートが止まって久しいアプリケーションです。現在のWebデザインの現場でのトレンドは、FigmaやCanvaだと思います。 しかし、例えばチームでずっとXDを使用してきた場合などでは、過去のデータの活用という意味でもアプリを乗り換えることができず、今後アップデートされないのは承知の上でXDを使い続けている、という会社も多いのではないでしょうか（かくいう私の所属するチームも同様です）。 XDを使ってるからってこんなに迫害されるわけではない いや……いいアプリですけどね、XD。 XDを業務で使用していて「こんなことができればいいのに」「こんな機能があればいいのに」と思うことは多々ありますが、上述したようにすでにアップデートが止まっているため、公式から機能の追加がされる見込みはほぼありません。……と、なると、諦めて我慢するか、ストアからちょうどいいプラグインを見つけてくるか、「自力でプラグインを開発するか」しかない、ということになります。 とはいえ、「XDのプラグインの開発って、どうやればいいの？」と、非エンジニアであれば誰しもが疑問に思うところ。ストアに並んでいる、誰かが作ったプラグインも、「これをどうやって作ったのか知っているか」と言われると、見当がつかないのではないでしょうか？イメージするのは、バリバリのエンジニアが、すごい開発環境で、謎の言語を書きながらプログラムを組んでいる姿だったりするのではないか、と思います。 自分には到底できない、と、やる前から挫折するようなイメージ。 そんなイメージをぶっ壊すツールが、ふたつあります。・UXP Developer Tools・ChatGPT（みたいなLLM）です。 UXP Developer Toolsとは？ 「Adobe Creative Cloud」を利用しているのが前提となりますが、Creative Cloudの画面を開いた際に、並んでいるアプリの中に「UXP Developer Tools」はあります。 不思議なことに、いつも使っているPhotoshopやIllustratorと同じ並びにあるのに、なぜか目に入ってきません（周りのデザイナーに聞いてもみんな気付いていませんでした）。自分には関係のないアプリだ、と無意識に決めつけちゃってるのだと思います。しかし何を隠そう、このツールで、デザイナーでもプラグインは作れるのです。Adobeがわざわざ「プラグイン開発用のアプリケーション」を用意してくれているのですから、これを使わない手はありません。 このアプリを起動して、ウィンドウ右上にある「Create Plugin」というボタンをクリックすると新しくプラグインを作れるようになります。が、最初の画面でいきなり何をしていいのか分からないと思いますので軽く説明しておきます。 6）のプルダウンメニューで、プラグインテンプレートを選びます。私も違いがよくわからなかったのでChatGPTに質問したところ、いろいろ説明してくれたのですが、まぁ最初は「Quick Starter」一択でいいと思います。複雑なものを作りたくなった時には、残りの二つを使う局面もあるかも。それぞれの意味が知りたかったら、ChatGPTに質問してみてください。 設定後、右下の「Select Folder」をクリックすると「どこのフォルダに作る？」と聞かれるので、自分で好きなフォルダを作って保存してください。これで準備完了です。 私が作ろうとしているもの ちなみに今回、私が作りたかったプラグインは、「書き出し対象のチェックが入ったオブジェクトを探し出し、すべてのチェックを外す」というものです。こういうやつ↓です。 XDの書き出しはPNG、JPG、SVGなどを混在してまとめて一気に書き出すことができないので、 ・まずPNGで書き出すオブジェクトの「書き出し対象にする」のチェックをすべて入れて書き出し　↓・いまチェックしたものをすべて外す　↓・次にJPEGで書き出すオブジェクトの「書き出し対象にする」のチェックをすべて入れて書き出し　↓・いまチェックしたものをすべて外す　↓・次にSVGで（以下略） ……という感じで、いちいち「チェックしたものをすべて外す」という作業が挟まるのが地味に面倒。それに、他のスタッフが作ったXDファイルを流用してデザインする際に、前の人が書き出し対象チェックを入れたままにしていると、書き出すたびに想定外の（そしてどこのレイヤーグループに潜んでいるのかわからない）画像が一緒に書き出されたりするのもフラストレーションが溜まります。これをプラグイン一発で解決できたら、とても便利です。 AIばんざい さきほどUPX Developer Toolsで作ったフォルダの中身を見ると、いろんなファイルが生成されていて、その中にJavascriptファイルとJSONファイルが入っています。 「main.js」と「manifest.json」 これをテキストエディタで開くと……。こんな感じ。 このソースを書き換えて、プラグインを作ります。 「おい、非エンジニアでも作れるんじゃないのかよ」そういう怨嗟の声が聞こえてきそうですが、ここで登場するのが、世にいうLLM。ChatGPT、Claude3、Geminiといった会話型のAIです。 私も最初に、こんなふうにChatGPTに投げかけました。 そうすると、こんな返答が返ってきます。 こうやって返ってきたソースコードを丸々コピーして、さきほどのJavascriptファイルの中身を上書きします。あと、さきほど生成されたファイルの中に「manifest.json」というファイルがあったと思いますが、こちらもChatGPTに、「今の内容に合うやつ考えて」とお願いして生成させて、同じく上書きします。 次に、なんでもいいのでXDファイルを開きます。※この「XDファイルを開く」というのが重要で、ここでXDファイルを開いておかないとエラーが出て進まないので要注意！この状態で、さきほどのUXP Developer Tools上で、いまつくったプラグインの右の方にある「Load」というのをクリックすると、いま制作したプラグインがXDファイルに読み込まれます。これで、普通のプラグインと同じように、クリックして走らせてみましょう。 で……試してみたら分かるんですが……この段階でプラグインが完成しているのは、「稀」です。 まず間違いなく、想定していた挙動になりません。エラーが出たらまだいい方で、多くの場合、何も起きません。 UPX Developer Toolsに戻って「Debug」というテキストをクリックすると、コンソールが開きます。ここにエラーが表示されていることもありますが、基本、何も表示されていないことが多いです。 私の場合は、ある程度JavaScriptの読み書きができたので、ここからいろいろログをコンソールに出力させたりバグつぶしの王道を辿ったりして原因に迫っていきましたが、そもそも、間違ったソースを書いたのはChatGPT。なので、ChatGPTに責任を取らせましょう。 ChatGPTに描かせた「自分の書いたソースコードの責任を取らされるChatGPT」の図。こいつ、自分のことをこんなかわいいキャラだと思っているのか……。 「なんかおかしいから修正して」というと、改善案を提示してくれます。そのソースを使っても直らないのであれば、「コンソールログを使って原因を究明しましょう」というと、さきほど「Debug」をクリックして開いたコンソールを活用しながら、ステップを踏んでバグを修正しようとしてくれます。ChatGPTでらちが明かないな、となったら、Claude3やGeminiにバトンタッチして聞いてみましょう。そちらである程度先に進んで、また止まったらChatGPTに戻りましょう。 私は、そうして100ターン以上の応酬を経て、なんとか動くところまでたどり着くことができました。 まったくソースが分からないと手詰まりになることもある 非エンジニアでもプラグインが作れる、と言いましたが、実際にはそれだけではにっちもさっちもいかなくなることがあります。 手詰まりでにっちもさっちもいかない、の図 AIの回答も、ループに陥って堂々巡りになったり、挙句の果てに「XDをバージョンアップしてください」などと言ってくる状態になったりします（もうバージョンアップが止まっているから自分でプラグインを作っているんだよ……！）。 そうなったときに、自分でソースを読んで、「ここがおかしいんじゃないか？」「こういうアプローチはどうか」と提案すると、そこがブレイクスルーとなって改善することがあります。 「素晴らしいデバッグ能力ですね」などとChatGPTに褒められたりして、「いや、おまえにその役割をお願いしてるんだよっ」と思ったりはするものの、結局、AIはあくまでサポート役として最適なのであって、すべてを委ねるにはまだ足りない部分もいっぱいある、ということなのでしょう。 「AIってそういうもの」と割り切って、できるだけAIの能力を引き出すためにどうやって問いかければいいか、最適なプロンプトを考えながら対話を繰り返し、ときには自分の脳みそも活用しながら二人三脚で進んでいくと、ゴールへの道筋が見えてくるのだと思います。「なんとかしろ」とだけ伝えても、なんともならないことって、世の中にはいっぱいあるんですよね。 まとめ 「結局、コードが全くかけない非エンジニアにはプラグインは作れない、って結論なのか？」と、思うかもしれませんが、そうではありません。要は、AIの使いようです。AIに「100」任せることはできなくても、「90」までAIが作ってくれるなら、残りの「10」は自力でググったりして、ゴールを手繰り寄せることができるかもしれません。これが、AIがなかったら、どうですか？自分で「100」作りますか？XDのプラグインを自分で作ってみたい、と思ったときに、ゴールテープを切れるかどうか、という以前に、スタートラインがどこにあるのかも分からないんじゃないでしょうか？ 最初の一歩のハードルが低いことは、すごく大事 AIが目覚ましい進化を遂げる昨今、スキル的に自分には手の出せなかったさまざまなことが、AIの力を借りてできるようになってきました。この時代を生きていくためには「AIをどう使うか」がカギとなる気がします。世間では「AIに仕事を奪われる」という論調もいろいろ見かけますが、だからといってAIを忌避し目を背けたところで、なにも解決しません。避けるのではなく、「うまく使うことで自分のできることを増やしていく」ということを積極的に考えるべき時代になった、と思うべきなのでしょうね。

5/2に発表およびリリースされた、Oracle Databaseの最新バージョン「23c」改め「23ai」自らaiと呼称する通り、AIにフォーカスを当てた新機能であるベクトル検索機能「AI Vector Search」が導入されていますその新機能である「AI Vector Search」を実際に導入し、ベクトル変換およびベクトル検索を試してみましたのでご紹介します AI Vector Searchとは AI Vector Searchは、非構造化データをベクトルと呼ばれる数値の並びに変換し、意味や文脈の類似性に基づいて検索する技術です。 例えば、以下の2つの文章があるとします。 私は犬が好きです。犬は忠実で愛らしい動物です。 猫は独立心が強く、気まぐれな性格の動物です。 これらの文章をベクトル化すると、以下のようになります。 (0.8, 0.2, 0.1, ...) (-0.1, 0.6, 0.3, ...) 各数値は、文章の特徴を表現しています。例えば、最初の値が犬に関連する特徴、2番目の値が猫に関連する特徴を表しているとします。 ベクトル化された文章同士の類似性を計算することで、意味や文脈が近い文章を見つけ出すことができます。 例えば、「犬について教えて」という問い合わせに対してベクトル検索では1番目の文章を高い関連性を持つ結果として返します。 このように、AI Vector Searchはデータの意味や文脈を数値化し、類似性を計算することで、従来のキーワード検索よりも正確で関連性の高い検索結果を提供できる機能となっています。 どんな想定で検証を行ったのか 携帯電話キャリアのカスタマーサポートセンターに寄せられた過去のお問い合わせをベクトル化し、新しいお問い合わせが来た際に類似する過去事例を出力する、いわゆるナレッジ検索の検証を行いました。 （利用したデータはChatGPTで生成したもので、実際のデータではありません） 検証環境の準備 今回の検証では、DB内で変換から検索までを完結させたかったため、外部APIは利用せず、DBに直接モデルをインポートしてベクトル化を行う手順を採用しています。 VM準備 VMについて詳細な導入手順は触れませんが、今回はVirtualBoxのVMを2つ用意しています。 ・1つはOracle 23aiのDB VM ・1つはoml4pyクライアントをインストールし、モデルをONNXファイルに変換するためのOracle Linux VM 後者は必須ではありませんが、実際の本番運用も鑑みて、DBMSのリソースを無駄に消費したり、必要以上のソフトウェアを入れないようにするために用意してみました。 Oracle Database 23aiのVM https://www.oracle.com/jp/database/free/get-started/ Oracle_Database_23c_Free_Developer_Appliance.ova 上記のサイトから23ai freeのovaファイルをダウンロードし、VirtualBoxへインポートします。 (VirtualBoxマネージャーの[仮想アプライアンスのインポート]メニューから.ovaファイルを選択すればインポート可能です) Oracle Machine Learning for Python(oml4py)クライアントインストール用のVM https://public-yum.oracle.com/oracle-linux-isos.html 上記から任意のバージョンのOracle LinuxのISOファイルをダウンロードして環境を用意してください。 (自分はOracle Linux 9.3を利用) ONNXファイルへのエクスポート時にメモリ不足に陥ったケースがあったため、メモリは8GB以上で作成することをお勧めします。 oml4pyクライアントのインストール 事前学習済みモデルをDBへインポートするためには、oml4pyでエクスポートした ONNXファイルが必要となるため、oml4pyクライアントインストール用のVM へoml4pyをインストールしていきます。 python3.12.0のインストール cd /tmp wget https://www.python.org/ftp/python/3.12.0/Python-3.12.0.tgz mkdir -p ~/python tar -xvzf Python-3.12.0.tgz --strip-components=1 -C ~/python 必要なライブラリのインストール sudo yum install perl-Env libffi-devel openssl openssl-devel tk-devel xz-devel zlib-devel bzip2-devel readline-devel libuuid-devel ncurses-devel (自分の環境では以下のライブラリも追加インストールが必要でした) sudo yum install gcc perl-File-Copy python3.12.0のビルド cd ~/python ./configure --enable-shared --prefix=~/python make clean; make make altinstall PYTHONHOME環境変数をbashrcへ追記 cat << EOF >> ~/.bashrc export PYTHONHOME=~/python export PATH=$PYTHONHOME/bin:$PATH export LD_LIBRARY_PATH=$PYTHONHOME/lib:$LD_LIBRARY_PATH EOF bashrcのリロード source ~/.bashrc シンボリックリンク作成 cd ~/python/bin ln -s python3.12 python3 python3 -V pipのバージョンアップ pip3.12 install —upgrade pip 必要なサポートパッケージのインストール pip3.12 install pandas pip3.12 install setuptools pip3.12 install scipy pip3.12 install matplotlib pip3.12 install oracledb pip3.12 install joblib pip3.12 install scikit-learn pip3.12 install numpy pip3.12 install onnxruntime pip3.12 install onnxruntime-extensions pip3.12 install onnx pip3.12 install --extra-index-url "https://download.pytorch.org/whl/cpu" torch==2.2.0+cpu pip3.12 install transformers pip3.12 install sentencepiece https://www.oracle.com/database/technologies/oml4py-downloads.html から OML4Py 2.0 (Database 23ai) のClientをダウンロードし、以下で作成した~/oml4pyへコピーします。 mkdir ~/oml4py cd ~/oml4py oml4pyを解凍し、インストール unzip oml4py-client-linux-x86_64-2.0.zip perl -Iclient client/client.pl oml4pyのインストールはこれで完了です。 事前学習済みモデルをONNXファイル形式でエクスポート python3のインタラクティブシェルで事前学習済みモデルからONNXファイルの生成を行います。 今回は事前構成モデルの「sentence-transformers/all-MiniLM-L6-v2」(以下「MINILM」とする)と、 Google BERTの多言語モデル「google-bert/bert-base-multilingual-cased」(以下「BERT」とする)のエクスポートを行います。 作業ディレクトリ作成、移動 mkdir ~/onnx cd ~/onnx python3の起動 python3 MINILM からONNXファイルを生成 from oml.utils import EmbeddingModel, EmbeddingModelConfig config = EmbeddingModelConfig.from_template("text",max_seq_length=512,quantize_model=True) em = EmbeddingModel(model_name="sentence-transformers/all-MiniLM-L6-v2", config=config) em.export2file("all-MiniLM-L6-v2",output_dir=".") BERTからONNXファイルを作成 from oml.utils import EmbeddingModel, EmbeddingModelConfig config = EmbeddingModelConfig.from_template("text",max_seq_length=512,quantize_model=True) em = EmbeddingModel(model_name="google-bert/bert-base-multilingual-cased", config=config) em.export2file("bert-base-multilingual-cased",output_dir=".") 「all-MiniLM-L6-v2.onnx」と「bert-base-multilingual-cased.onnx」というファイルがカレントディレクトリへ出力されます。 データベースへONNXファイルをインポート ここからはDB VMで作業を実施します。 onnxファイル配置先兼ディレクトリオブジェクト用ディレクトリ作成 mkdir /home/oracle/onnx 上記のディレクトリへ「all-MiniLM-L6-v2.onnx」と「bert-base-multilingual-cased.onnx」のONNXファイルを配置します。 作業対象のPDBへ接続 (Oracle_Database_23c_Free_Developer_Applianceのデフォルトの設定を利用しています。) sql system/oracle@localhost:1521/freepdb1 ONNXファイルを配置したディレクトリをインポート用のディレクトリオブジェクトへ設定 CREATE DIRECTORY DM_DUMP as '/home/oracle/onnx'; 検証用のDBユーザ「DMUSER」を作成し、必要となる権限を付与 CREATE USER dmuser identified by "oracle" DEFAULT TABLESPACE USERS quota unlimited on USERS; GRANT DB_DEVELOPER_ROLE to dmuser; grant create mining model to dmuser; grant read on directory DM_DUMP to dmuser; grant write on directory DM_DUMP to dmuser; 作成したユーザで接続しなおし、ONNXファイルのインポートを行う CONN dmuser/oracle@freepdb1 BERTのインポート EXECUTE DBMS_VECTOR.LOAD_ONNX_MODEL( 'DM_DUMP', 'bert-base-multilingual-cased.onnx', 'model_bert', JSON('{"function" : "embedding", "embeddingOutput" : "embedding", "input": {"input": ["DATA"]}}')); MINILMのインポート EXECUTE DBMS_VECTOR.LOAD_ONNX_MODEL( 'DM_DUMP', 'all-MiniLM-L6-v2.onnx', 'model_minilm', JSON('{"function" : "embedding", "embeddingOutput" : "embedding", "input": {"input": ["DATA"]}}')); ベクトルデータの生成検証 select et.* from dbms_vector.utl_to_embeddings('こんにちは', json('{"provider": "database", "model": "MODEL_BERT"}')) et; select et.* from dbms_vector.utl_to_embeddings('こんにちは', json('{"provider": "database", "model": "MODEL_MINILM"}')) et; 結果 SQL> select et.* from dbms_vector.utl_to_embeddings('こんにちは', json('{"provider": "database", "model": "MODEL_BERT"}')) et; COLUMN_VALUE _________________________________________________________________________________________________________________________________________________________ {"embed_id":1,"embed_data":"こんにちは","embed_vector":"[-4.45263125E-002,-4.56667505E-002,1.81700056E-003,2.82725599E-002,5.13250567E-002,-1.96262635E-002 経過時間: 00:00:10.830 SQL> SQL> select et.* from dbms_vector.utl_to_embeddings('こんにちは', json('{"provider": "database", "model": "MODEL_MINILM"}')) et; COLUMN_VALUE _________________________________________________________________________________________________________________________________________________________ {"embed_id":1,"embed_data":"こんにちは","embed_vector":"[-6.53214231E-002,1.00896575E-001,-4.13914323E-002,5.09274229E-002,-8.02713782E-002,7.31066391E-002 経過時間: 00:00:00.961 SQL> テストデータ作成 お問い合わせ履歴格納用のテーブルを作成し、ChatGPTで生成したお問い合わせデータを100件インサートしていきます。 テーブル名：inquiry_history ID：連番 DETAIL：お問い合わせ内容 MINI_VECTOR：all-MiniLMで生成したベクトル値 BERT_VECTOR：BERTで生成したベクトル値 テーブル作成 create table inquiry_history ( id number, detail varchar2(4000), mini_vector vector, bert_vector vector ); 「料金」「通信速度」「データプラン」「SIMカード」「国際ローミング」「契約解除」「通話品質」「支払い方法」「故障」「ポイントプログラム」のカテゴリごとに10件ずつ生成したデータを挿入しました。 すべては書ききれないのでそれぞれ1行ずつ抜粋しています。 -- 料金に関する問い合わせ INSERT INTO INQUIRY_HISTORY (ID, DETAIL) VALUES (1, '件名: 請求書の料金について\n内容: 今月の請求書に記載されている料金がいつもより高いです。詳細な内訳を教えてください。また、不明な料金が含まれているようなので確認していただけますか？\n回答: お問い合わせありがとうございます。請求書の内訳については、以下のリンクから詳細をご確認いただけます。不明な料金に関しては、当社のシステムに誤りがないか確認いたしますので、しばらくお待ちください。お手数ですが、再度お問い合わせいただけますか？'); -- 通信速度の問題 INSERT INTO INQUIRY_HISTORY (ID, DETAIL) VALUES (11, '件名: インターネットの速度が遅い\n内容: 最近、インターネットの速度が非常に遅くなっています。特に夜間は動画がスムーズに再生できません。対策を教えてください。\n回答: ご不便をおかけして申し訳ございません。通信速度の低下はネットワークの混雑や周辺環境の影響が考えられます。対策として、ルーターの再起動や周辺機器の配置変更をお試しください。改善しない場合は、詳細な調査を行いますので、再度ご連絡ください。'); -- データプランの変更 INSERT INTO INQUIRY_HISTORY (ID, DETAIL) VALUES (21, '件名: データプランの変更について\n内容: 現在のデータプランを変更したいのですが、どのように手続きすれば良いでしょうか？また、新しいプランの詳細と料金を教えてください。\n回答: データプランの変更についてのお問い合わせありがとうございます。新しいプランの詳細と料金は当社のウェブサイトでご確認いただけます。変更手続きは、オンラインまたはお近くの店舗で行うことができます。ご不明点がございましたら、お気軽にお問い合わせください。'); -- SIMカードのトラブル INSERT INTO INQUIRY_HISTORY (ID, DETAIL) VALUES (31, '件名: SIMカードが認識されない\n内容: 新しく購入したスマートフォンにSIMカードを挿入しましたが、認識されません。どうすれば解決できますか？また、SIMカードの再発行は可能ですか？\n回答: SIMカードが認識されない問題についてお知らせいただき、ありがとうございます。まず、SIMカードを他の端末で試していただき、それでも問題が解決しない場合は、SIMカードの再発行をお手配いたします。再発行手続きについては、お近くの店舗にご来店いただくか、オンラインでお申し込みください。'); -- 国際ローミングの設定 INSERT INTO INQUIRY_HISTORY (ID, DETAIL) VALUES (41, '件名: 国際ローミングの設定方法\n内容: 来週海外に行く予定があるのですが、国際ローミングの設定方法を教えてください。現地での使用に際して追加料金が発生するかも知りたいです。\n回答: 国際ローミングの設定方法についてご案内いたします。設定は、お使いの端末の設定メニューから「モバイルネットワーク」→「国際ローミング」を有効にしてください。詳細な設定手順は当社のウェブサイトに掲載されています。現地での使用に際しては、使用量に応じて追加料金が発生する場合がありますので、料金プランをご確認ください。'); -- 契約解除の手続き INSERT INTO INQUIRY_HISTORY (ID, DETAIL) VALUES (51, '件名: 契約解除について\n内容: 契約を解除したいのですが、どのような手続きが必要ですか？また、違約金や手数料についても教えてください。\n回答: 契約解除のお手続きについてご案内いたします。契約解除は、お近くの店舗で行うか、オンラインで申請できます。解除に際しての違約金や手数料は、契約内容によって異なりますので、詳細は契約書をご確認いただくか、当社カスタマーサポートにお問い合わせください。'); -- 通話品質の問題 INSERT INTO INQUIRY_HISTORY (ID, DETAIL) VALUES (61, '件名: 通話中にノイズが多い\n内容: 通話中にノイズが多くて相手の声が聞き取りにくいことが頻繁にあります。この問題を解決するためにはどうすれば良いでしょうか？\n回答: 通話中のノイズについてご不便をおかけし、申し訳ございません。まず、通話中の環境を確認し、他の電子機器が影響していないか確認してください。また、端末の再起動をお試しください。改善しない場合は、ネットワークの状況を確認いたしますので、再度ご連絡ください。'); -- 支払い方法の変更 INSERT INTO INQUIRY_HISTORY (ID, DETAIL) VALUES (71, '件名: 支払い方法を変更したい\n内容: 現在、銀行振込で支払っていますが、クレジットカード払いに変更したいです。変更方法を教えてください。\n回答: 支払い方法の変更についてのお問い合わせありがとうございます。クレジットカード払いへの変更は、当社のウェブサイトまたはお近くの店舗で行うことができます。オンラインでの手続きは、ログイン後に「支払い方法の変更」メニューから行ってください。'); -- 携帯電話の故障 INSERT INTO INQUIRY_HISTORY (ID, DETAIL) VALUES (81, '件名: 携帯電話が動かなくなった\n内容: 使用している携帯電話が突然動かなくなりました。電源が入らず、充電もできません。修理や交換の手続きを教えてください。\n回答: 携帯電話の故障についてご連絡いただき、ありがとうございます。まず、充電器やケーブルを確認し、他の充電器で試してみてください。それでも解決しない場合は、修理または交換の手続きをお手配いたします。最寄りの店舗にご持参いただくか、オンラインで修理依頼をしてください。'); -- ポイントプログラムの利用 INSERT INTO INQUIRY_HISTORY (ID, DETAIL) VALUES (91, '件名: ポイントの利用方法について\n内容: 貯まったポイントを使いたいのですが、どのように利用すれば良いでしょうか？また、ポイントの有効期限も教えてください。\n回答: ポイントのご利用方法についてご案内いたします。ポイントは、当社のウェブサイトまたは店舗での購入時に使用できます。詳細な使用方法は、会員ページにログインしてご確認ください。ポイントの有効期限は、最終利用日から1年間ですので、お早めにご利用ください。'); commit; テストデータのベクトル変換 お問い合わせ内容(detail列)からベクトルデータを生成してそれぞれの列に格納していきます。 mini_vector列にMINILMで生成したベクトル値を挿入 update ( select t.id, t.detail, t.mini_vector, j.embed_vector from ( select * from inquiry_history i, dbms_vector.utl_to_embeddings( i.detail, json('{ "provider": "database", "model": "MODEL_MINILM" }') ) ) t , JSON_TABLE( t.column_value, '$[*]' COLUMNS ( embed_id NUMBER PATH '$.embed_id', embed_data VARCHAR2(4000) PATH '$.embed_data', embed_vector CLOB PATH '$.embed_vector' ) ) j ) a set a.mini_vector = a.embed_vector; commit; bert_vector列にBERTで生成したベクトル値を挿入 update ( select t.id, t.detail, t.bert_vector, j.embed_vector from ( select * from inquiry_history i, dbms_vector.utl_to_embeddings( i.detail, json('{ "provider": "database", "model": "MODEL_BERT" }') ) ) t , JSON_TABLE( t.column_value, '$[*]' COLUMNS ( embed_id NUMBER PATH '$.embed_id', embed_data VARCHAR2(4000) PATH '$.embed_data', embed_vector CLOB PATH '$.embed_vector' ) ) j ) a set a.bert_vector = a.embed_vector; commit; 実践 「スマホが壊れた」というお客様のお問い合わせをベクトル化し、過去のお問い合わせ履歴の中から、ベクトル距離が近い10件を出力させてみます。 最初に今回の検証で精度が高かったBERTでベクトル検索を行った際の結果をお見せします。 VARIABLE var_inq varchar2 exec :var_inq := 'スマホが壊れた'; with var_vector as ( select et.embed_vector from dbms_vector.utl_to_embeddings( :var_inq, json('{"provider": "database", "model": "MODEL_BERT" }') ) t, JSON_TABLE( t.column_value, '$[*]' COLUMNS ( embed_id NUMBER PATH '$.embed_id', embed_data VARCHAR2(4000) PATH '$.embed_data', embed_vector CLOB PATH '$.embed_vector' ) ) et ) select vector_distance(var_vector.embed_vector, bert_vector) as distance, detail from inquiry_history, var_vector order by distance fetch first 10 rows only; vector_distance(var_vector.embed_vector, bert_vector) vector_distance関数で「スマホが壊れた」のベクトルデータと、格納済みのベクトルデータとのベクトル距離を測っています。 デフォルトの距離メトリックはコサイン(COSINE)で、明記する場合は以下のように記載します。 vector_distance(var_vector.embed_vector, bert_vector, COSINE) その他に DOT/EUCLIDEAN/EUCLIDEAN_SQUARED/HAMMING/MANHATTAN が使用できますが、今回の検証では距離メトリックの違いによる順番の変動はありませんでした。 結果は以下の通り。 DISTANCE DETAIL ______________________ _____________________________________________________________________________________________________________________________________________________________________________________________________________________________________________________ 0.40472501516342163 件名: 通話中の切断\n内容: 通話中に突然切断されることがあります。原因と対策を教えてください。\n回答: 通話中の切断は、電波の強さやネットワークの問題が原因です。電波の強い場所で通話を行う、端末の再起動をお試しください。 0.40581953525543213 件名: 通話中のハウリング\n内容: 通話中にハウリングが発生します。対処方法を教えてください。\n回答: 通話中のハウリングは、端末のマイクとスピーカーの位置関係が原因です。イヤホンを使用することで改善する場合があります。 0.4108541011810303 件名: 通話中の音声遅延\n内容: 通話中に音声が遅延することがあります。対処方法を教えてください。\n回答: 通話中の音声遅延は、ネットワークの混雑や端末の性能が原因です。電波の強い場所で通話を行う、端末の再起動をお試しください。 0.41457128524780273 件名: オンラインゲーム中のラグ\n内容: オンラインゲームをしているとラグが発生します。改善方法を教えてください。\n回答: オンラインゲーム中のラグは、ネットワークの混雑やデバイスの性能が影響することがあります。優先接続の設定や、他のデバイスの使用を制限することで改善することがあります。 0.4154418706893921 件名: 請求書に誤りがある\n内容: 今月の請求書に誤りがあるようです。先月分の料金が二重に請求されています。\n回答: 請求書の誤りについてご連絡ありがとうございます。調査の上、訂正させていただきます。訂正後の請求書を再送いたしますので、しばらくお待ちください。 0.419796347618103 件名: 通話中の雑音\n内容: 通話中に雑音が入ります。対策を教えてください。\n回答: 通話中の雑音は、周囲の環境や端末の問題が原因です。静かな場所で通話を行う、端末の再起動をお試しください。 0.42413556575775146 件名: 通話品質の向上方法\n内容: 通話品質を向上させる方法を教えてください。\n回答: 通話品質の向上には、電波の強い場所で通話すること、他の電子機器から離れることが有効です。また、端末のソフトウェアを最新に保つこともお勧めします。 0.4264066815376282 件名: インターネットの速度が遅い\n内容: 最近、インターネットの速度が非常に遅くなっています。特に夜間は動画がスムーズに再生できません。対策を教えてください。\n回答: ご不便をおかけして申し訳ございません。通信速度の低下はネットワークの混雑や周辺環境の影響が考えられます。対策として、ルーターの再起動や周辺機器の配置変更をお試しください。改善しない場合は、詳細な調査を行いますので、再度ご連絡ください。 0.42750102281570435 件名: SIMカードが認識されない\n内容: 新しく購入したスマートフォンにSIMカードを挿入しましたが、認識されません。どうすれば解決できますか？また、SIMカードの再発行は可能ですか？\n回答: SIMカードが認識されない問題についてお知らせいただき、ありがとうございます。まず、SIMカードを他の端末で試していただき、それでも問題が解決しない場合は、SIMカードの再発行をお手配いたします。再発行手続きについては、お近くの店舗にご来店いただくか、オンラインでお申し込みください。 0.4283760190010071 件名: スピーカーの故障\n内容: 携帯電話のスピーカーが故障して音が出ません。修理方法を教えてください。\n回答: スピーカーの故障は、修理センターでの対応となります。修理依頼は店舗またはオンラインで行うことができます。 10行が選択されました。 経過時間: 00:00:06.373 通話の切断や遅延、品質劣化など、主にスマホが正常に動いていない過去のお問い合わせ履歴が出力されました。 続いて、参考までにベクトル距離が遠い10件を出力させてみました。(descにしたただけ) with var_vector as ( select et.embed_vector from dbms_vector.utl_to_embeddings( :var_inq, json('{"provider": "database", "model": "MODEL_BERT" }') ) t, JSON_TABLE( t.column_value, '$[*]' COLUMNS ( embed_id NUMBER PATH '$.embed_id', embed_data VARCHAR2(4000) PATH '$.embed_data', embed_vector CLOB PATH '$.embed_vector' ) ) et ) select vector_distance(var_vector.embed_vector, bert_vector) as distance, detail from inquiry_history, var_vector order by distance desc fetch first 10 rows only; DISTANCE DETAIL _____________________ ____________________________________________________________________________________________________________________________________________________________________________________________________________________ 件名: 家族プランへの変更\n内容: 家族全員で利用できるプランに変更したいです。詳細を教えてください。\n回答: 家族プランへの変更については、当社のウェブサイトで詳細をご確認いただけます。変更手続きは、オンラインまたは店舗で行うことができます。 0.5215476155281067 件名: 請求書の記載内容について\n内容: 請求書の記載内容に不明点があります。詳しい説明をお願いします。\n回答: 請求書の不明点については、カスタマーサポートまでご連絡いただければ、詳細にご説明いたします。 0.5151771306991577 件名: 国際ローミングのプラン\n内容: 国際ローミングに対応したプランについて教えてください。\n回答: 国際ローミングに対応したプランは、当社のウェブサイトでご確認いただけます。プランの詳細や料金については、マイページからご確認ください。 0.5151727199554443 件名: ポイントの移行\n内容: ポイントを他のアカウントに移行したいのですが、可能でしょうか？\n回答: ポイントの移行はできませんが、同一アカウント内での使用が可能です。詳細はマイページでご確認いただけます。 0.51432204246521 件名: ポイントのキャンペーン\n内容: 現在開催中のポイントキャンペーンについて教えてください。\n回答: 現在開催中のポイントキャンペーンは、当社のウェブサイトでご確認いただけます。キャンペーン内容や期間については、随時更新されますのでご確認ください。 0.5132672786712646 件名: 支払い方法の変更期限\n内容: 支払い方法を変更する際の期限について教えてください。\n回答: 支払い方法の変更期限は、次回請求書発行日の1週間前までとなります。詳細はマイページでご確認ください。 0.5119727849960327 件名: 国際ローミングの料金\n内容: 海外でのデータ利用時の料金体系を教えてください。\n回答: 国際ローミングの料金は、利用する国や地域によって異なります。詳細な料金体系は当社のウェブサイトでご確認いただけます。 0.5059264898300171 件名: ポイントの利用方法について\n内容: 貯まったポイントを使いたいのですが、どのように利用すれば良いでしょうか？また、ポイントの有効期限も教えてください。\n回答: ポイントのご利用方法についてご案内いたします。ポイントは、当社のウェブサイトまたは店舗での購入時に使用できます。詳細な使用方法は、会員ページにログインしてご確認ください。ポイントの有効期限は、最終利用日から1年間ですので、お早めにご利用ください。 0.503799319267273 件名: 請求書の支払い期限について\n内容: 請求書の支払い期限について教えてください。\n回答: 請求書の支払い期限は、請求書に記載されている日付となります。通常、請求書発行後30日以内にお支払いいただく必要があります。 0.502672553062439 件名: 国際ローミングのデータプラン\n内容: 国際ローミング用のデータプランがあるか教えてください。\n回答: 国際ローミング用のデータプランは、当社のウェブサイトでご確認いただけます。プランの詳細や料金については、マイページからご確認ください。 10行が選択されました。 経過時間: 00:00:03.400 プラン変更、支払い、ポイント利用など、スマホの故障とは関連性の低い内容が出力されました。 （降順で検索した際にDISTANCEがnullとなるケースがありましたが、ベクトル値も入っており、比較対象とベクトル次元も一致していたのでなぜnullになってしまうのかは不明でした） 続いて、MINILMでの結果も見ていきましょう。 VARIABLE var_inq varchar2 exec :var_inq := 'スマホが壊れた'; with var_vector as ( select et.embed_vector from dbms_vector.utl_to_embeddings( :var_inq, json('{"provider": "database", "model": "MINILM_MODEL" }') ) t, JSON_TABLE( t.column_value, '$[*]' COLUMNS ( embed_id NUMBER PATH '$.embed_id', embed_data VARCHAR2(4000) PATH '$.embed_data', embed_vector CLOB PATH '$.embed_vector' ) ) et ) select vector_distance(var_vector.embed_vector, mini_vector) as distance, detail from inquiry_history, var_vector order by distance fetch first 10 rows only; DISTANCE DETAIL _____________________ _____________________________________________________________________________________________________________________________________________ 0.5397957563400269 件名: プラン変更のタイミング\n内容: データプランを変更したいのですが、いつ変更すれば良いですか？\n回答: データプランの変更は、月末までに申請いただければ翌月から適用されます。詳しい手続きはマイページでご確認いただけます。 0.548862099647522 件名: 通話が途切れる\n内容: 通話中に頻繁に途切れてしまいます。対処方法を教えてください。\n回答: 通話が途切れる場合、電波の強い場所で通話を行う、端末の再起動をお試しください。改善しない場合は、ネットワークの状況を確認いたしますので、再度ご連絡ください。 0.552870512008667 件名: 画面が割れた\n内容: 携帯電話の画面が割れてしまいました。修理費用と手続きを教えてください。\n回答: 画面割れの修理については、修理センターでの対応となります。修理費用はモデルによって異なりますので、詳細は当社のウェブサイトでご確認いただけます。 0.5536371469497681 件名: 速度制限の解除について\n内容: 速度制限がかかっているようですが、解除する方法を教えてください。\n回答: 速度制限は、月間データ使用量が上限に達した場合に適用されます。追加データを購入することで、速度制限を解除することができます。詳細はマイページでご確認ください。 0.5681867003440857 件名: プラン変更の確認\n内容: プラン変更が正しく反映されているか確認したいです。\n回答: プラン変更の反映については、マイページの「契約内容」セクションでご確認いただけます。 0.5724462270736694 件名: 契約解除の手数料免除\n内容: 契約解除の手数料を免除してもらうことは可能ですか？\n回答: 契約解除の手数料免除については、特別な事情がある場合に限り検討いたします。詳細はカスタマーサポートまでご連絡ください。 0.5736000537872314 件名: SIMカードのサイズ変更\n内容: 現在のSIMカードのサイズを変更したいのですが、手続き方法を教えてください。\n回答: SIMカードのサイズ変更は、店舗で行うことができます。新しい端末に対応するサイズのSIMカードをお渡しいたします。 0.5769633054733276 件名: 契約解除の手数料\n内容: 契約解除にかかる手数料について教えてください。\n回答: 契約解除にかかる手数料は、契約内容によって異なります。詳細は契約書またはマイページでご確認いただけます。 0.5814880132675171 件名: 新しいプランの適用\n内容: 新しいプランを適用したいのですが、手続き方法を教えてください。\n回答: 新しいプランの適用手続きは、マイページから行うことができます。ログイン後、「プラン変更」セクションをご確認ください。 0.5840420722961426 件名: SIMカードが壊れた\n内容: SIMカードが壊れてしまいました。再発行の手続きを教えてください。\n回答: 壊れたSIMカードの再発行は、オンラインまたは店舗で手続きを行うことができます。詳細は当社のウェブサイトでご確認ください。 10行が選択されました。 BERTとは結果が異なり、プラン変更に関連するお問い合わせ内容など、「スマホが壊れた」への回答としては人間からすると関連度が低いと思われる内容が今回のケースでは出力されてしまいました。 最後にもう一例。お問い合わせ内容を「夜になるとネットが途切れる」に変え、BERTで検索してみます。 VARIABLE var_inq varchar2 exec :var_inq := '夜になるとネットが途切れる'; with var_vector as ( select et.embed_vector from dbms_vector.utl_to_embeddings( :var_inq, json('{"provider": "database", "model": "MODEL_BERT" }') ) t, JSON_TABLE( t.column_value, '$[*]' COLUMNS ( embed_id NUMBER PATH '$.embed_id', embed_data VARCHAR2(4000) PATH '$.embed_data', embed_vector CLOB PATH '$.embed_vector' ) ) et ) select vector_distance(var_vector.embed_vector, bert_vector) as distance, detail from inquiry_history, var_vector order by distance fetch first 10 rows only; DISTANCE DETAIL ______________________ _______________________________________________________________________________________________________________________________________________________________________________________________________________ 0.38425612449645996 件名: 通話中の切断\n内容: 通話中に突然切断されることがあります。原因と対策を教えてください。\n回答: 通話中の切断は、電波の強さやネットワークの問題が原因です。電波の強い場所で通話を行う、端末の再起動をお試しください。 0.39424002170562744 件名: インターネットの速度が遅い\n内容: 最近、インターネットの速度が非常に遅くなっています。特に夜間は動画がスムーズに再生できません。対策を教えてください。\n回答: ご不便をおかけして申し訳ございません。通信速度の低下はネットワークの混雑や周辺環境の影響が考えられます。対策として、ルーターの再起動や周辺機器の配置変更をお試しください。改善しない場合は、詳細な調査を行いますので、再度ご連絡ください。 0.3960091471672058 件名: 通話が途切れる\n内容: 通話中に頻繁に途切れてしまいます。対処方法を教えてください。\n回答: 通話が途切れる場合、電波の強い場所で通話を行う、端末の再起動をお試しください。改善しない場合は、ネットワークの状況を確認いたしますので、再度ご連絡ください。 0.4035411477088928 件名: 通話中の音声遅延\n内容: 通話中に音声が遅延することがあります。対処方法を教えてください。\n回答: 通話中の音声遅延は、ネットワークの混雑や端末の性能が原因です。電波の強い場所で通話を行う、端末の再起動をお試しください。 0.40869396924972534 件名: 通話中の雑音\n内容: 通話中に雑音が入ります。対策を教えてください。\n回答: 通話中の雑音は、周囲の環境や端末の問題が原因です。静かな場所で通話を行う、端末の再起動をお試しください。 0.41707921028137207 件名: 通話中に声が聞こえない\n内容: 通話中に相手の声が聞こえなくなることがあります。対策を教えてください。\n回答: 通話中に声が聞こえない場合、まず端末の音量設定を確認してください。また、他の通話アプリを使用している場合は、設定を確認してください。改善しない場合は、ネットワークの状況を確認いたします。 0.42083191871643066 件名: インターネット接続が不安定\n内容: インターネット接続が頻繁に切れることがあります。原因と対策を教えてください。\n回答: インターネット接続が不安定な場合、ルーターやモデムの再起動をお試しください。また、接続機器や配線に問題がないか確認してください。改善しない場合は、詳細な調査を行いますので、再度ご連絡ください。 0.4244661331176758 件名: モバイルデータの速度が遅い\n内容: モバイルデータの速度が非常に遅く、使用に支障があります。改善方法を教えてください。\n回答: モバイルデータの速度が遅い場合は、まず端末の再起動をお試しください。それでも改善しない場合は、データ使用量や周辺環境の影響が考えられます。詳細な調査を行いますので、再度ご連絡ください。 0.42668086290359497 件名: 通話品質の向上方法\n内容: 通話品質を向上させる方法を教えてください。\n回答: 通話品質の向上には、電波の強い場所で通話すること、他の電子機器から離れることが有効です。また、端末のソフトウェアを最新に保つこともお勧めします。 0.4293612837791443 件名: 国際ローミングの停止方法\n内容: 海外でのデータ通信を停止したいのですが、方法を教えてください。\n回答: 海外でのデータ通信を停止するには、端末の設定から「データローミング」を無効にしてください。また、現地での使用を控えることも有効です。 10行が選択されました。 こちらも10番目以外は関連度の高い内容が出力されたのではないかと思います。 おわりに 今回の検証を通じて、ナレッジ検索においてベクトル検索が有用であることを実感しました。 テキストベースのナレッジ検索だけでなく、データベース内の様々な形式のデータをベクトル化することで新たな発見が生まれる可能性もあると感じました。 一方で、使用したモデル「sentence-transformers/all-MiniLM-L6-v2」では384次元、「google-bert/bert-base-multilingual-cased」では768次元のベクトル空間データを使用するため、多次元モデルを導入する際にはパフォーマンスと容量の面での考慮が必要になってきそうです。 23aiの導入を検討している皆さんも、まずは手持ちのデータをベクトル化してみてはいかがでしょうか。 参考サイト Oracle® Database Oracle AI Vector Search User's Guide 23ai https://docs.oracle.com/en/database/oracle/oracle-database/23/vecse/index.html Oracle® Machine Learning for Python User's Guide Release 2.0 https://docs.oracle.com/en/database/oracle/machine-learning/oml4py/2/mlugp/index.html DBMS_VECTOR https://docs.oracle.com/en/database//oracle/oracle-database/23/arpls/dbms_vector1.html VECTOR_DISTANCE https://docs.oracle.com/en/database/oracle/oracle-database/23/sqlrf/vector_distance.html VECTOR_DIMENSION_COUNT https://docs.oracle.com/en/database/oracle/oracle-database/23/sqlrf/vector_dimension_count.html FROM_VECTOR https://docs.oracle.com/en/database/oracle/oracle-database/23/sqlrf/from_vector.html Oracle Database 23ai のベクトル機能を試す手順 (1) https://qiita.com/ryotayamanaka/items/156932a48e65d3ddc5ac [Oracle Cloud]インポートしたONNXフォーマットモデルでOracle Database 23ai表データをEmbeddingしてみた。(2024/05/06) https://qiita.com/kenwatan/items/153f0f6d2385fffaf606 Oracle Database 23ai FreeとAPEXでRAGを使った生成AIアプリをローコード開発してみた (事前準備編) https://qiita.com/ssfujita/items/34d9e3c39ca730d29351 Oracle Database 23ai FreeとAPEXでRAGを使った生成AIアプリをローコード開発してみた (アプリ実装 前編) https://qiita.com/ssfujita/items/c53579bbb3eed4145942 Oracle Database 23ai FreeとAPEXでRAGを使った生成AIアプリをローコード開発してみた (アプリ実装 後編) https://qiita.com/ssfujita/items/53df4f342e28c238a5a2 Oracle Machine Learning for Pythonをインストールしてみた。(2024/01/30) https://qiita.com/kenwatan/items/43d4776456d041718bc5

久々に記事を投稿します。インフラエンジニアの柳です。直近はGPUのホスティング基盤を担当しています。前回の記事は2022年、機械学習をテーマにした記事でした。2年前はここまでAIが盛り上がるとは想像していませんでした。今回はAIを支える技術としてコンテナを紹介したいと思います。AI？コンテナ？とすぐには繋がらないと思いますが、AIを支える技術の一つとしてコンテナは非常に重要な役割を担っています。AIは非常に多くの計算を必要とし、その計算はGPUで行われています。GPUはCPUと異なりマルチプロセスには向いていないため、上手くプロセスをスケジュールして実行する必要があります。それぞれのプロセスにコンテナを用いることで、全く異なる実行環境やアプリケーションでも同じGPUにプロセスをスケジュールし処理が実行できるようになります。 1．コンテナについて コンテナは現在、アプリケーションの開発と配布を効率化するために広く利用されています。しかし、その便利さの背後にはセキュリティリスクも存在します。特に、コンテナをどのように管理し実行するかは、セキュリティリスクを大きく左右します。本ブログでは、コンテナプラットフォームであるDockerとPodmanの違いと、セキュリティ面での取扱いについて解説します。 Dockerの基本とセキュリティ Docker はコンテナを作成、実行するためのプラットフォームで、多くの開発者に利用されています。Dockerはデーモン（バックグラウンドで実行されるプロセス）として動作し、通常はルートユーザー権限で実行されます。ルートユーザーはシステム上で最も強い権限を持つため、Dockerのセキュリティが侵害されると大きなリスクが生じます。 ただし、最近ではRootlessモードを使うことで、通常のユーザー権限でもDockerを動作させることが可能です。このモードでは、管理者権限を持たないユーザーでもコンテナを安全に実行でき、システム全体のセキュリティが向上します。 Podmanの特徴とその利点 一方、Podmanはデーモンレスで動作するコンテナプラットフォームです。つまり、バックグラウンドで常時実行するデーモンプロセスが不要で、それぞれのコンテナが独立して動作します。これにより、システム全体のセキュリティリスクが抑えられます。また、PodmanはDockerのコマンドラインインターフェース(CLI) と互換性があるため、Dockerユーザーも容易に移行が可能です。 特に注目すべきは、ユーザ名前空間の取り扱いです。この機能により、コンテナ内のユーザーとホスト側のユーザーを紐付けまたは隔離することができ、アクセス権を細かく制御することが可能です。Podmanはこの点で非常に使いやすく設計されており、セキュリティ面での利点も大きいです。 2．インストール方法の違い：Docker vs Podman Ubuntu22.04、Rootlessモードのインストール方法です。GPUもコンテナから利用可能とします。 共通手順 Docker, Podman共通のインストール手順です。Rootless環境のポイントは、no-cgroups、enable-linger、XDG_RUNTIME_DIRの設定です。 # [1] nvidia-container-toolkitのRepository設定 sudo curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | gpg --dearmor > /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg sudo curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | tee /etc/apt/sources.list.d/nvidia-container-toolkit.list sudo apt update # [2] パッケージインストール sudo apt install uidmap dbus-user-session slirp4netns nvidia-container-toolkit fuse-overlayfs # [3] no-cgroupsをfalseからtrueに変更します。 # ※この変更をしないとRootlessコンテナからGPUが利用できません。 sudo vi /etc/nvidia-container-runtime/config.toml no-cgroups = true # [4] Dockerをインストールする一般ユーザーを追加します。 # ※user0001にdockerをインストールする場合の例です。 sudo useradd -m user0001 -s /bin/bash # [5] enable-lingerでユーザーセッションを有効化します sudo loginctl enable-linger user0001 ■ Rootless Dockerのインストール方法 下記作業は全て一般ユーザーで実行します。 # [1] systemd busの設定 cat<<EOS>> ~/.bashrc # systemd bus export XDG_RUNTIME_DIR=/run/user/$(id -u user0001) # Docker config export PATH=${HOME}/bin:$PATH export DOCKER_HOST=unix://${XDG_RUNTIME_DIR}/docker.sock EOS # [2] bashrc変更設定を反映 source ~/.bashrc # [3] Rootless Dockerのダウンロード curl -fsSL https://get.docker.com/rootless | sh # [4] Rootless Dockerのインストール dockerd-rootless-setuptool.sh install # [5] 実行確認 systemctl --user status docker docker-composeのインストール docker composeコマンドも一般ユーザーにインストールします。 [1] ディレクトリ作成 $ mkdir .docker/cli-plugins [2] インストール(v2.21.0の場合) curl -L "https://github.com/docker/compose/releases/download/v2.21.0/dockercompose-$(uname -s)-$(uname -m)" -o ~/.docker/cli-plugins/docker-compose [3] 実行権限付与 chmod +x ~/.docker/cli-plugins/docker-compose ■ Podmanのインストール方法 # [1] Repository設定 sudo curl -fsSL https://download.opensuse.org/repositories/devel:kubic:libcontainers:unstable/xUbuntu_$(lsb_release -rs)/Release.key | gpg --dearmor | tee /etc/apt/keyrings/devel_kubic_libcontainers_unstable.gpg > /dev/null sudo echo "deb [arch=$(dpkg --print-architecture) signed-by=/etc/apt/keyrings/devel_kubic_libcontainers_unstable.gpg] https://download.opensuse.org/repositories/devel:kubic:libcontainers:unstable/xUbuntu_$(lsb_release -rs)/ /" | tee /etc/apt/sources.list.d/devel:kubic:libcontainers:unstable.list > /dev/null # [2] Install sudo apt update sudo apt -y install podman # [3] sticky付け権限調整 sudo chmod u+s $(which newuidmap) sudo chmod u+s $(which newgidmap) # [4] CDI(Container Device Interface)生成 sudo mkdir /etc/cdi sudo nvidia-ctk cdi generate --output=/etc/cdi/nvidia.yaml # [5] 確認 sudo nvidia-ctk cdi list 以下表示がでればOK INFO[0000] Found 2 CDI devices nvidia.com/gpu=0 nvidia.com/gpu=all podman.socketの設定 下記作業は全て一般ユーザーで実行します。 # [1] systemd busの設定 cat<<EOS>> ~/.bashrc # systemd bus export XDG_RUNTIME_DIR=/run/user/$(id -u user0001) # Docker config export PATH=${HOME}/bin:$PATH export DOCKER_HOST=unix://${XDG_RUNTIME_DIR}/podman/podman.sock EOS # [2] bashrc変更設定を反映 source ~/.bashrc # [3] podman起動 systemctl --user start podman.socket # [4] podmanのソケット確認 podman info --format '{{.Host.RemoteSocket.Path}}' # [5] gpuが読み込めるか検証 podman run --rm --device nvidia.com/gpu=0 ubuntu nvidia-smi -L podman-composeのインストール sudo apt install python3-pip sudo pip3 install podman-compose 3.YAMLファイルの違い: Docker vs Podman DockerとPodmanではGPUの指定方法が異なります。Podmanではuserns_mode: keep-idの指定が可能となります。 Dockerでのコンテナ起動 docker-compose.yml version: '3.9' name: webui-docker services: auto: ports: - "${WEBUI_PORT:-7860}:7860" volumes: - ./data:/data - ./output:/output stop_signal: SIGKILL tty: true image: ##IMAGE_ID## deploy: resources: reservations: devices: - driver: nvidia device_ids: ['0'] capabilities: [compute, utility] command: ### docker-compose up --build -d Podmanでのコンテナ起動 docker-compose.yml version: '3.9' name: webui-podman services: auto: ports: - "${WEBUI_PORT:-7860}:7860" volumes: - ./data:/data - ./output:/output stop_signal: SIGKILL tty: true image: ##IMAGE_ID## userns_mode: keep-id devices: - nvidia.com/gpu=0 command: ### podman-compose up --build -d 4.userns_mode: keep-idについて userns_mode: keep-idを設定すると、コンテナ内のユーザーID (UID) とグループID (GID) が、コンテナを起動したホストのユーザーIDとグループIDと一致するようになります。 keep-idを指定しない場合 ホストの一般ユーザー(1012)が、コンテナ内のルートユーザーに名前空間で紐づけされます。 podman top -l user huser USER HUSER root 1012 keep-idを指定した場合 ホスト側の一般ユーザー(1012)が、コンテナ内でも一般ユーザー(1012)に名前空間で紐づけされます。 podman top -l user huser USER HUSER 1012 1012 keep-idを利用する利点 セキュリティの向上 デフォルトではコンテナ環境で使用されるユーザーはrootユーザー（UID 0）ですが、userns_mode: keepid を使用することで、コンテナ内の作業を非rootユーザーで実行できるため、セキュリティリスクを低減できます。 ファイルの所有権管理の簡素化 コンテナ内のユーザーIDとホストのユーザーIDが一致すると、ホストとコンテナ間でファイルを共有する際の所有権やパーミッションの管理が容易になります。コンテナから作成されたファイルは、ホスト上でも同じユーザーIDによって所有されます。これにより、ファイルの所有権やパーミッションに関する問題を避けることができます。 5.パフォーマンス コンテナ環境での Stable Diffusion Web UI を利用した画像生成のパフォーマンスについて紹介させていただきます。 結果 コールドブート時間はL4とH100で差異はなかったH100はL4の倍以上の画像生成速度でバッチ数が増えるほど差が広がるバッチ数が増えてもリニアに生成時間が増えるわけではない GPU種別Nvidia H100(PCIE)Nvidia　L4コールドブート*18.7秒8.6秒 GPU種別Nvidia H100(PCIE)Nvidia　L4512 x 512 画像生成 - バッチ数:1 *22.26秒*33.54秒512 x 512 画像生成 - バッチ数:43.22秒8.53秒512 x 512 画像生成 - バッチ数:85.2秒17.6秒1024 x 1024 画像生成 - バッチ数:14.42秒11.7秒1024 x 1024 画像生成 - バッチ数:414.45秒55.6秒1024 x 1024 画像生成 - バッチ数:828.07秒115.7秒*1 コールドブートにはコンテナ起動時間とモデルロード時間が含まれます。*2 バッチ数は同時に生成する画像枚数です。*3 画像生成時間にはコールドブートの時間は含まれていません 画像生成条件 設定項目値チェックポイントmeinamix_meinaV11チェックポイントサイズ1.99GBLoRAAsuka Langley Souryuu/Shikinami (Evangelion)sampling step28 検証結果 pkgversionCUDA12.2Stable Diffusion WebUIv1.5.2Python3.10.9Pytorch2.01+cu118xformers0.0.21.dev544gradio3.32.0Docker20.10LTSContainerToolKit1.13.5 6.まとめ コンテナからGPUを利用することで、推論や学習環境を簡単に切り替えられることは非常に便利だと感じます。また、DockerとPodmanは似たような機能を持ちながらも、その実行構造と安全性においては大きな違いがあります。特にセキュリティを重視する場合には、Podmanの方が優れた選択肢かもしれません。GPU+Podmanの組み合わせにより、セキュリティとコンテナによる柔軟性の両立が可能だと考えます。

GMOインターネットグループ　デベロッパーエキスパートの市川（@Yoshihiko_ICKW）です。2024年03月11日（月）～15（金） 言語処理学会第30回年次大会 (NLP2024) ＠神戸国際会議場に参加してきました。目的は、最近爆発的にユースケースが増えているLLMを始めとした、自然言語処理と、ファイナンス分野への応用研究の調査のためです。よろしければご覧ください。（文章の作成に当たっては、一部Chat-GPTを利用しました） イベントの概要 言語処理学会は1994年4月1日に設立された学術研究団体です。https://www.anlp.jp/ 詳細は上記リンクに譲るのですが、近年注目が集まってきた状況下で、昨年LLMが爆発的に利用が拡大し、急速に注目が集まっているようです。参加者も過去最高だったそうです。 https://twitter.com/Yoshihiko_ICKW/status/1767107731608179040 ChatGPTなどの流行により、多くの分野から研究者が流れ込んでいます。発表量が多く、聴いているだけでも忙しい研究会です。 余談ですが、様々な会社がスポンサーとなっており、学生さんに対して「うちに来て～滑り止めで構いません～」とおっしゃっていました。この分野に限っては、人材獲得競争がかなり激化しています。 発表の概要 こちらの研究会はありがたいことに各発表の概要pdfが公開されています。https://www.anlp.jp/proceedings/annual_meeting/2024/ 以下、著者の敬称略とさせて頂きます。 オープニング 参加者：2045件、発表数：599件（歴代1位）とのことでした。過去最大の大会となったそうです。 招待論文 資料が公開されていませんが、言語処理学会での優秀な論文発表者を招待しての講演でした。JGLUEの構築など、4名の方のご講演でした。 A1:言語生成技術の応用 A1-1 市況コメント生成のための少数事例選択 ○川原田将之, 石垣達也, 高村大也 (産総研) 株価の数値時系列データからその値動きを説明する市況コメントを生成するタスクを考えています。特に、プロンプトに含める少数ショット事例の選択方法が性能向上のために重要であることを論じています。類似する数値時系列データからのコメントや同一時点でのコメントの傾向が類似しているという特性を活用し、これらを少数ショット事例としてプロンプトに含める新しい手法を提案しています。 ランダムに選択された少数ショット事例を用いたベースラインと比較し、提案手法がBLEU、METEOR、BERTScoreという代表的な評価指標で性能を向上させたことを示しています。 A1-2 プロンプトチューニングとkNN-LMを組み合わせたリスティング広告のタイトル自動生成 ○児玉壮平 (東京理科大), 星野智紀, 石塚湖太 (HT) リスティング広告のタイトルを自動生成するために、Instruction-Tuning済みモデルにkNN-LMを導入し、プロンプトチューニングと用例検索を組み合わせた手法の提案です。広告タイトルの生成品質を向上させるとともに、計算コストを削減することが可能です。 従来のFine-Tuningモデルとは異なり、Instruction-Tuning済みモデルとkNN-LMの組み合わせを用いることで、大規模モデルやデータが引き起こす計算コストの増加を抑えつつ、広告タイトルの生成品質を向上させています。 実験結果から、提案手法が従来手法と比較してROUGE-1、ROUGE-2共に改善されていることを確認しました。 A1-3 複数の属性に対する評価を含む宿泊施設レビューに対する多様な返信の自動生成 ○村越裕太, 白井清昭 (JAIST) 宿泊施設のレビューに対して、通り一辺倒な一般的な返信ではなく、レビュー内でユーザーが述べたすべての不満点に具体的に言及する返信を自動生成する技術を開発しました。レビューを個々の文に分割し、それぞれに対する返信を生成した後、これらの返信を統合して最終的な返信文を作成します。 従来の研究では、レビュー全体に対する一括の返信生成に焦点が当てられており、レビュー内の各不満点に個別に対応することは考慮されていませんでした。この研究は、レビュー内の複数の不満点に網羅的に対応し、かつ定型的な表現を避けた多様な返信を生成することを目的としています。 楽天トラベルのデータセットを使用して、提案手法で生成された返信の品質が特に複数の属性を含むレビューにおいて向上することを実験的に確認しました。 A1-4 答案診断グラフを用いた国語記述式答案へのフィードバックの生成 ○古橋萌々香, 舟山弘晃, 岩瀬裕哉, 松林優一郎 (東北大/理研), 磯部順子 (理研), 菅原朔 (NII), 乾健太郎 (MBZUAI/東北大/理研) 国語の記述式問題への個別フィードバックを生成するシステムを提案しています。記述式問題の答案を自動で採点し、学習者が犯した間違いに対して個別化されたアドバイスを提供することで、教師の負担を軽減し、学習者の理解を深めることを目指しています。 記述式答案の論理構造と談話関係を組み合わせた「答案診断グラフ」を構築し、それを用いて個別のフィードバックを生成する点でユニークです。 A1-5 多様なクイズを自動生成する手法およびその検証 ○小林俊介, 河原大輔 (早大) クイズ問題の自動生成システムを提案しています。多様なクイズ問題を生成できること、そして新規のWikipedia記事からも問題を生成できることが確認されました。 質問生成モデルの学習手法や入出力形式を変更することで、多様なクイズ問題の自動生成を実現した点にあります。問題生成時の入出力形式の変更と、学習時の損失関数の制御にあります。特に、複数の文書を参照して質問を生成するFiDモデルを用いることで、複数の視点から問題を作成できるようになりました。また、BERTScoreを用いた損失関数の制御により、生成された問題が訓練データに似過ぎることなく、多様な問題を生成できるようになっています。 多様性は、生成された問題に含まれるユニークなn-gramの割合であるDistinct指標によって、適切性は生成された問題とテストデータに存在する問題とのBERTScoreによって評価しました。また、新規のWikipedia記事から問題を生成することで、システムの適用性を検証しました。 A2:LLM分析評価(1) A2-1 大規模言語モデルは自身の Hallucination を検知できるか? ○門谷宙, 西田光甫, 西田京介, 齋藤邦子 (NTT) 大規模言語モデル（LLM）が流暢で説得力のある応答を生成できる一方で、事実に基づかない応答をすることがあります。この現象はhallucinationと呼ばれ、本研究ではLLMが自身のhallucinationを検知できるかを検討しています。 既存のhallucination検知手法は、LLMの内部状態や外部知識を必要としますが、この研究ではLLM自身をhallucination検知器として使用するアプローチを提案しました。これにより、内部状態や外部モジュールにアクセスできないユーザーでも利用可能になる点が新規性です。 文の真偽判定タスクをhallucination検知として定式化し、Chain-of-Thought（CoT）を用いた真偽判定手法を提案しています。 実験では、GPT-3.5 Turboを用いて、生成した文の真偽をLLM自身に判定させました。その結果、GPT-3.5 TurboはCoTを用いることで自身のhallucinationを58.2%の確率で検知できることがわかりました。 A2-2 大規模言語モデルにおける日本語ゼロ照応解析能力の分析 ○野末慎之介 (東北大), 石月由紀子, 松林優一郎, 坂口慶祐 (東北大/理研) GPT-4のような大規模言語モデルが日本語のゼロ照応解析、つまり述語の省略された項を正確に同定できるかを評価する研究です。結果として、GPT-4はこのタスクで十分な性能を発揮しないことが明らかになりました。ゼロ照応解析は日本語を含む多くの言語で見られる現象であり、その解析は難易度が高いとされています。 GPT-4を用いてゼロ照応解析を行う手法を開発し、NAIST Text Corpus (NTC) 1.5というベンチマークデータセットを用いて性能を評価しました。 GPT-4のゼロ照応解析の問題点は、ヲ格とニ格に関する格フレーム知識の不足と、ニ格に関する選択選好知識の不足にあると指摘されています。これは、大規模言語モデルが日本語の深い理解に至っていないことを示唆しています。 A2-3 LLM生成コンテンツのSEO観点での品質評価 ○益子怜 (横浜市立大), 木村賢 (サイバーエージェント), 越仲孝文 (横浜市立大) Webコンテンツの制作の観点で、LLMが生成したテキストコンテンツを定量評価します。ユーザ評価ラベルが付与されたGoogle検索結果からユーザ評価予測モデルを構築し、GPT-3.5、GPT-4、CyberAgentLM2などのLLMが生成したコンテンツの自動評価を行いました。 SEOの文脈でLLM生成コンテンツの品質を定量的に評価し、予測モデルを用いた自動評価を試みる点がユニークです。 A2-4 物語文に対する大規模言語モデルの読解能力の分析 ○板橋康知 (東北大), 松林優一郎 (東北大/理研) この研究では、GPT-4をはじめとする大規模言語モデル（LLM）の、公立高校入試の国語物語文問題における読解能力を調査しました。特に、人間の心情を理解する能力、すなわち「心の理論」に焦点を当て、LLMがどの程度人間の心情を読み取る問題に対処できるかを分析しています。 新規性は、長い文脈の中から人間の心情を理解するLLMの能力を、実際の公立高校入試の問題を用いて分析した点にあります。ChatGPT（GPT-3.5-turbo, GPT-4）を用いて、2017年から2023年にかけての公立高校入試の国語物語文読解問題108問を分析しました。GPT-4はランダム選択期待値を大きく上回り、GPT-3.5-turboもわずかに上回る結果を示しました。この結果から、LLMが人間の心情を読み解く能力にある程度優れていることが示されました。 A2-6 大規模言語モデルに対する語彙置換継続事前学習の有効性の検証 ○野崎雄太, 中島大, 佐藤諒, 伊藤真也, 近藤宏, 麻場直喜, 川村晋太郎 (リコー) 大規模言語モデルに対する語彙置換継続事前学習の有効性を検証した研究です。英語モデルに日本語データを継続事前学習する際、日本語に最適化されていないトークナイザーによって生じる学習効率の低下を克服する方法として、語彙置換継続事前学習を提案しています。 英語モデルを日本語データで継続事前学習する際の問題点として、英語中心のトークナイザーを用いることで日本語の学習効率が低下することが挙げられます。本研究では、トークナイザーの語彙を拡張する代わりに、既存の埋め込みを活用しつつ語彙を置換することで学習効率と精度を向上させる「語彙置換継続事前学習」手法を提案しています。 A3:LLM分析評価(2) A3-1 NoisyICL: A Little Noise in Model Parameters Can Calibrate In-context Learning ○趙羽風, 坂井吉弘 (JAIST), 井之上直也 (JAIST/理研) 言語モデルのパラメータにランダムなノイズを加えることで、インコンテキスト学習（ICL）のパフォーマンスを向上させる手法、NoisyICLを提案しています。ICLは、少数のデモンストレーションから学習することで、パラメータの更新なしにタスクを生成的に学ぶ方法です。 従来の研究では、ICLの性能向上のために大規模なデータセットと計算コストを要するファインチューニングが行われていましたが、NoisyICLはモデルのパラメータにノイズを加えるだけで、低い計算コストでICLのキャリブレーションを実現します。 A3-2 日本語LLM構築におけるコーパスクリーニングの網羅的評価 ○新里顕大 (SB Intuitions/京大), 高瀬翔, 清野舜, 李凌寒, 加藤卓也, 水本智也, 小林滉河, 佐藤潤一, 柴田知秀 (SB Intuitions) 日本語の大規模言語モデル（LLM）の事前学習に用いるコーパスをクリーニングすることがモデルの性能向上に寄与することを示しています。 クリーニング手法として、質の高い文書からN-gram言語モデルを構築してPerplexityの高い文書を除去する方法（LM）、ルールベースで特定のパターンを持つ文書を除去する方法（Rule）、類似した文書を除去する方法（Dedup）の3つを用いました。これらの手法を適用することで、質の高い文書の割合が増加し、学習効率が向上すると予想されます。 複数の質問応答タスクおよび自由記述質問応答タスクを用いて性能を比較しました。計算資源が限られている場合（250Bトークン）と十分な場合（1Tトークン）での学習を行い、クリーニングを施したコーパスとそうでないコーパスでのモデルの性能を比較しました。 A3-3 汎用言語モデルは日本語学習者データに基づく語彙難易度を予測できるのか ○梁震, 彭悦, 笹尾洋介 (京大) GPT-4を活用して日本語の語彙難易度を分析し、その結果をもとに機械学習で語彙難易度を算出する新しい手法を提案しています。具体的には、中国語母語話者にとっての日本語語彙難易度を、既存の調査結果と比較して検証しました。 中国語母語話者201名の日本語語彙難易度データセットを使用して検証を行いました。検証結果は、既存の調査結果の99%信頼区間内に収まるデータの割合が71%となり、提案手法が比較的高い精度で語彙難易度を推定できることを示しました。 A3-4 LLM による合成文脈データを用いた表のエンティティリンキング ○大嶋悠司, 進藤裕之, 寺西裕紀, 大内啓樹, 渡辺太郎 (NAIST) 論文からの情報抽出を行い、知識ベースを作りたいというのが、大きなテーマの研究です。論文の表に含まれる情報を知識ベースと紐づけるエンティティリンキング（EL）の精度を向上させるために、大規模言語モデル（LLM）を利用して特定のセルに関連する文脈を合成する新しい手法を提案しています。 先行研究では、論文の本文からセルの文脈を抽出する必要があり、特に省略された名称や本文中に十分な説明がない場合（自明な固有名詞なども含む）に精度が低下する問題がありました。提案手法では、LLMを活用してセルに関連する文脈や補助知識を合成し、これによりリンキングに必要な情報を効果的に抽出・補完することができます。 A3-6 LLM はユーザーに適したテキストの難易度を暗黙的に考慮しているのか？ ○郷原聖士, 上垣外英剛, 渡辺太郎 (NAIST) 大規模言語モデル（LLM）がユーザーの理解度に合わせたテキストの難易度を暗黙的に調整する能力を持つかどうかを調査したものです。具体的には、質問応答と対話を例に取り、LLMが生成した文章と入力文章の難易度を比較し、LLMがユーザーに合わせた難易度調整を行っているかを検証しました。 複数のLLM（ChatGPT、LLaMA-2、Vicunaなど）を用いて、異なる難易度のプロンプト（simple、normal、complex）に基づいて生成されたテキストの難易度、同義性、冗長性を評価し、LLMがユーザーの入力に応じてどの程度難易度を調整できるかを検証しました。これにより、LLMがテキストの難易度をユーザーの理解度に合わせて暗黙的に調整する能力を持っているかを明らかにしました。 C4:テーマセッション２：金融・経済ドメインのための言語処理(1) C4-1 企業の環境活動における収益性の関係解析と改善案の自動生成 ○児玉実優, 酒井浩之, 永並健吾 (成蹊大), 高野海斗, 中川慧 (野村アセット) 企業の環境活動が収益性にどのように影響するかを分析し、その結果をもとに環境活動の改善案を自動生成する方法について調査しています。特に、環境方針のみを掲げる企業と実際に方針を実行している企業の業績の差異を分析し、改善策をChatGPTを用いて自動生成しました。環境活動の記述が実際の収益性に与える影響を定量的に分析し、さらにはその分析結果を基に、階層2（実行）で止まっている企業に対して、階層3（PDCA）まで含めた環境活動の文章の改善案をChatGPTを用いて精度良く自動生成するところがユニークです。 まず企業の統合報告書から環境活動に関する記述を抽出し、それらを階層1（方針）、階層2（実行）、階層3（PDCA）に分類する手法です。さらに、この研究ではBERTを用いた機械学習モデルを活用して文書を分類し、企業の収益性と環境活動の記述の関係を分析しています。最後に、few-shot learningを使用したChatGPTによる改善案の自動生成が技術の要です。 有効性の検証は、企業の収益性指標（ROE、ROAなど）と環境活動の記述の関係を分析しています。また、自動生成された環境活動の改善案は、専門家による評価を通じてその適切性が評価され、実際に企業の環境活動改善に役立つかどうかを検証しました。 C4-2 T5を用いた技術課題・解決手段推定による特許マップ自動生成 ○小堀佑樹, 酒井浩之, 永並健吾 (成蹊大) T5モデルを用いて特許文書から技術課題と解決手段の要約を自動生成し、これらを基に直感的な特許マップを作成する方法を提案しています。 重要な点は、T5モデルを使用して特許文書から技術課題と解決手段を推定し、その結果をWord2Vecで統合するプロセスです。これにより、同じ内容でも異なる表現で出力されることがある技術課題や解決手段を統一し、より直感的に理解しやすい特許マップを生成します。 C4-3 Beige Bookのセンチメントとマクロ経済データを用いた米国金利変動予測 ○藤原真幸 (京大), 中川慧 (野村アセット), 水門善之 (野村證券), 秋田祐哉 (京大) 米国の金利変動を予測する新しいモデルを提案しています。このモデルは、XGBoostアルゴリズムを用いて10年金利、2年金利、イールドスプレッドの3種類の金利変動を予測します。特徴量としては、FinBERTモデルから得られたBeige Bookのセンチメントデータと、月次マクロ経済データを組み合わせて使用しています。特に、イールドスプレッドの予測では、センチメントデータとマクロ経済データの両方を用いることで、予測精度とトレーディング収益が向上することを見出しました。 予測モデルの有効性は、1996年10月30日から2023年10月18日までのBeige Bookデータを用いて検証されました。マクロ経済データとBeige Bookから抽出されたセンチメントデータを特徴量として用い、10年金利、2年金利、イールドスプレッドの予測モデルを構築し、それぞれの予測精度とトレーディングで得られる収益を計算しました。イールドスプレッド予測において、センチメントデータとマクロ経済データの組み合わせが特に有効であることが示されました。また、FRSのDual Mandate（物価の安定と最大限の雇用の実現）に基づき、物価と雇用に関するセンチメントに焦点を当てることで、予測精度がさらに向上することも示されました。 C4-4 投資家の情報選択に対する重みを考慮した金融推奨 ○高柳剛弘, 村山友理, 和泉潔 (東大) 個人投資家の異なる情報選択に対する重みを考慮した新しい金融推奨モデル「Personalized Financial Recommendation with Investors'Attention and Contextual Information (PFRIC)」を提案しています。 PFRICモデルは、情報選択モジュールとコンテキストモジュールの2つです。情報選択モジュールでは、注意機構を用いて投資家の様々な情報（テクニカル指標、ファンダメンタル指標、事業内容等）に対する選好を学習します。コンテキストモジュールでは、Neural Matrix Factorizationを基に、投資家のプロファイルや銘柄の動的特徴などのコンテキスト情報を取り入れ、これらの情報を組み合わせて投資家の金融意思決定を予測します。 オンライン証券を使用する個人投資家から収集した取引データを用いて、提案モデルの予測精度を既存手法と比較しました。 C4-5 加法構成性を活用した最適輸送による文書類似度の定量化 ○赤松朋哉 (阪大), 中川慧 (野村アセット) Semantic Text Similarity (STS) の精度向上を目指し、単語ベースと文章ベースのSTS手法の差異に着目します。特に、金融経済分野などの専門分野で使用されるフレーズ表現に焦点を当て、単語の加法構成性を利用した新たな文書類似度の定量化手法を提案します。 提案手法の核となるのは、加法構成性を持つ単語埋め込みに基づく新しい文書類似度測定法です。単語埋め込みの加法構成性を活用し、複数の単語からなるフレーズを1つの単語として近似し、これに基づいて文書間の最適輸送問題を構成します。これにより、文書間の意味的な類似度をより正確に測定することができます。 文書類似度の測定における提案手法の有効性を検証するために、株式市場の格言を含む複数の文書ペアに対して、Word2VecとBERTを用いた類似度測定を行い、それぞれの相関を分析しました。提案手法と従来手法の類似度測定結果を比較し、提案手法がフレーズ表現をより適切に捉えることができていることを示しました。 C5:テーマセッション２：金融・経済ドメインのための言語処理(2) C5-1 DDSTM:Spike and Slab 事前分布を用いた動的スパース・トピックモデル ○増田樹 (慶應大), 中川慧 (野村アセット), 星野崇宏 (慶應大) 時間的変動と分布のスパース性を同時に扱う新しいトピックモデル、動的スパース・トピックモデル(DDSTM)を提案しています。DDSTMは動的トピックモデル(DTM)に基づき、Spike and Slab Priorを事前分布として使用することで、スパース性を保ちつつ時系列変化をモデル化します。 人工データおよび実際のテキストデータを用いた実証分析によって、提案モデルの特徴を確認しました。具体的には、ロイターニュースから抽出したビジネスニュース記事のヘッドラインを利用し、DDSTM、LDA、DSTMと比較し、提案モデルがスパース性を持ちながらも時系列変化を正確に捉えることができることを確認しました。 C5-2 ゼロショットテキスト分類によるTCFD推奨開示項目の自動判定 ○土井惟成 (JPX/東大), 小田悠介 (NAIST/シェルパ), 中久保菜穂, 杉本淳 (シェルパ) サステナビリティ情報の開示に関するTCFD（気候関連財務情報開示タスクフォース）推奨開示項目を自動で判定する手法を提案しています。具体的には、大規模言語モデルを活用したゼロショットテキスト分類を用いて、開示情報がTCFDの推奨する項目に適合しているかを機械的に分類します。これにより、開示情報の分析にかかるコストを削減できることを目指しています。従来の手法では、学習データの構築に大きなコストがかかる点が課題でしたが、この研究ではゼロショットテキスト分類を用いることで、事前にラベル付けされたデータセットが不要となります。 有価証券報告書から抽出したサステナビリティ情報を含むテキストデータを使用し、提案手法の性能を検証しました。27種類のTCFD推奨開示項目クライテリアに基づいて、100件の正解データを人手で作成し、それを用いて正解率、適合率、再現率を評価しました。その結果、提案手法が特定のクライテリアや構成要素に対して高い効果を発揮していることを確認しました。 C5-3 有価証券報告書の活用による事業セグメント関連語の拡張 ○伊藤友貴 (三井物産), 平松賢士 (アイフィスジャパン) IR（Investor Relations）活動において、企業が発行する決算短信や有価証券報告書などから事業セグメントに関する言及文を抽出する手法を開発することを目指しています。特に、事業セグメント名の検索のみに依存する既存のアプローチでは対応できなかった、関連会社の記載やサービス名・取扱商品のみが書かれた文の抽出にも対応可能な手法を提案しています。 アナリストレポートと決算短信を対象に、提案手法で事業セグメント言及文を抽出し、その精度を評価しました。提案手法は従来の事業セグメント名をベースとした検索アプローチに比べて高い性能を示し、事業セグメント言及文を効果的に抽出できることを実証しました。 C5-4 重要技術語を対象とした特許技術の時系列トレンド分析手法 Patent-GLIPICA の開発 ○井畑匠越 (長岡技科大), 邊士名朝飛 (サイバーエージェント), 河野誠也 (理研), 原川良介, 岩橋政宏 (長岡技科大), 野中尋史 (愛工大) 特許情報を基にした技術トレンド分析手法として、特許文書中の重要技術要素を抽出し、それらの時系列連動性を分析する手法「Patent-GLIPICA」を提案しています。この手法は、特許文書構造を考慮したグラフベースのアプローチを用い、重要技術要素を精度良く抽出した上で、時系列連動性を分析します。特許文書内の項目間の意味関係を有向グラフとして表現し、PageRankスコアに基づいて重要技術語を抽出するグラフベースの手法。さらに、抽出された重要技術語を時系列データとして扱い、偏相関行列を用いて技術要素間の時系列連動性を分析する点に特徴があります。 比較手法として統計的手法（TF-IDF）や他のグラフベース手法（TextRank、PositionRank）との性能比較を通じて、提案手法がこれらよりも優れた重要技術語の抽出性能を持つことを示しました。また、携帯電話技術分野の特許データを用いた時系列トレンドクラスタリング実験により、ベース技術およびそれと異なるトレンドを持つ技術群を特定できることを確認しました。 C5-5 大規模言語モデルを用いた金融テキストに対する推論ベースの極性付与 ○高野海斗, 中川慧 (野村アセット) 大規模言語モデル（LLM）の推論能力を利用して、特定の業種における重大なイベントの影響を分析し、極性（ポジティブかネガティブか）を付与する手法を提案しています。これまでの極性付与は、テキストに直接極性が記載されている内容が中心でしたが、実際の投資判断では、直接記載されていない情報から極性を推論する必要があります。この研究は、LLMを活用して、そのような推論ベースの極性付与を実現しようと試みています。具体的には、LLMを用いて特定の業種に影響を与えるイベントに関するテキストに対して、バックグラウンド情報を考慮しながら極性を推論し付与します。 未知のウィルスの世界的流行、極端な円安、ロシアとウクライナの紛争などのイベントが特定の業種に与える影響について、LLMに推論させました。結果は、それぞれのイベントが業種に与える影響の極性を反映しており、LLMが提供する推論が実務的に有用であることを示しています。 C6:テーマセッション２：金融・経済ドメインのための言語処理(3) C6-1 LLM を用いたタカハトセンチメント付与タスクの検証 ○川原一修 (Japan Digital Design) 中央銀行の要人発言に対して、その発言が金融政策の緩和（ハト派）か引き締め（タカ派）を示唆しているかを自動で識別するシステムを開発しました。大規模言語モデル（LLM）とプロンプトエンジニアリングの技術を活用しています。 センチメント付与のためのガイドラインをプロンプト内に明示的に組み込むことで、LLMがより正確に発言の文脈を把握し、適切なセンチメントを割り当てることができるようになりました。 FOMC（米国連邦公開市場委員会）の発言記録を含むデータセットを用いて実験を行いました。複数のプロンプト設定を試し、それぞれのセンチメント分析の精度を比較しました。特に、ガイドラインを含むプロンプトを使用した場合の精度向上が顕著であり、ファインチューニングされた小型モデルよりも優れた結果を示すケースがあったことが、実験を通じて明らかにされました。 C6-2 株価変動に対する大規模言語モデルを用いた株式用語選択 ○西田隼輔, 宇津呂武仁 (筑波大) 株価変動を報じる記事の自動生成に向けて、大規模言語モデルを活用して株価変動の特徴を適切に表現する株式用語を自動で選択する手法を評価しました。数日間の株価推移を入力として、適切な株式用語（例：「急伸」「続伸」など）を選出できることを確認。特に、few-shot学習やfine-tuningを用いることで、選択精度をさらに向上させることができました。 ChatGPTなどの大規模言語モデルに対し、過去数日間の株価終値データを入力として与え、そのデータから株価変動のパターンを読み取り、対応する株式用語を選択させます。Yahoo!ファイナンスとMINKABUから収集した1,000件のニュース記事を元に、株価変動用語が含まれる612件のデータセットを構築。それを基に検証を行い、用語の定義をプロンプトに含めたzero-shot学習、選択肢を示したfew-shot学習、専用のデータセットに基づくfine-tuningという3つのアプローチが、精度向上に貢献しています。 C6-3 内積注意重みを用いた統合報告書の定量評価とポートフォリオ分析 ○森田祐介, 若村浩明, 椎名唯圭, 李楚翹, 大島健斗, 齋藤哲朗, 日尾泰子 (みずほ第一フィナンシャルテクノロジー) 企業の長期価値評価に重要なESG開示情報の定量的評価手法を提案した研究です。統合報告書のテキストデータからマテリアリティウェイトと内積注意重みを使用してスコアを算出し、このスコアを基にしたポートフォリオのパフォーマンス比較を通じて、提案手法の有効性を検証しました。 SASB（サステナビリティ会計基準審議会）スタンダードの課題カテゴリーに関連するテキストデータと、統合報告書のテキストから抽出した情報を内積注意機構を用いてマッチングさせ、それに基づいて企業の統合報告書スコアを算出します。 算出された統合報告書スコアを基に、TOPIX500を対象とした三分位ポートフォリオを構成し、各ポートフォリオのパフォーマンスを比較することでスコアの有効性を検証しました。分析結果は、スコアが高いポートフォリオ（T1）が低いポートフォリオ（T3）に対して高い累積収益率を示すことから、統合報告書スコアが将来リターンに対して有効な指標となり得ることを示しました。 C6-4 金融分野における言語モデル性能評価のための日本語金融ベンチマーク構築 ○平野正徳 (PFN) この研究では、大規模言語モデル（LLM）の性能を日本語および金融分野に特化して評価するためのベンチマークを構築しました。複数のタスクを用いて主要な言語モデルの性能を計測し、GPT-4が特に優れた性能を示すこと、および新たに構築されたベンチマークが有効に機能していることを確認しました。 分野や言語に特化した言語モデルの構築および評価の必要性が高まっている中、日本語と金融分野に特化したベンチマークは存在していませんでした。本研究によって初めて、日本語金融分野におけるLLMの性能を正確に評価できるツールが提供されました。 金融分野に特化した5つのベンチマークタスク（感情分析、証券分析の基礎知識、公認会計士試験の監査タスク、ファイナンシャルプランナー試験の選択肢問題、証券外務員試験の模擬試験タスク）です。 C6-5 ファイナンシャル・プランニングの自動化に向けた GPT-4 及び RAG の性能評価 ○西脇一尊, 大沼俊輔, 工藤剛, 門脇一真 (日本総研) どんなもの？この研究では、個人の家計や人生設計に関する資金計画作成を支援するファイナンシャル・プランニングの自動化に向けて、大規模言語モデル（LLM）とRetrieval-Augmented Generation（RAG）を組み合わせたアプローチの有効性を検証しています。RAGを用いてファイナンシャル・プランニングに関する専門知識が詰まった参考書から金融知識を抽出し、その情報をGPT-4の入力として提供しています。 3級ファイナンシャル・プランニング技能検定の過去問題を使用して、RAGを活用したGPT-4と、RAGを使用しないGPT-4の両方で問題を解かせ、その性能を比較しました。RAGを利用した場合の方が全体の正答率が向上し、GPT-4がRAGから提供された金融知識を効果的に活用できていることが確認されました。 A9:言語生成 A9-2 R2T: 言語モデルの確率操作による学習なし中間文生成 ○城戸晴輝, 前川在, 小杉哲, 船越孝太郎, 奥村学 (東工大) 中間文生成タスクに対して、追加の学習なしで自己回帰言語モデルを利用した新しいアプローチ「R2T」を提案しています。この手法は、最終文とトークンの埋め込み間のコサイン類似度を利用して、自己回帰言語モデルが次のトークンを予測する際の語彙の対数確率に加算します。これにより、計算コストを大幅に削減しつつ、品質の高い中間文を生成することが可能です。 ARTDatasetとROCStoriesという2つのデータセットを使用して実験を行いました。ARTDatasetでは、従来の学習なし中間文生成手法であるCOLDとDELOREANと比較し、R2Tが計算コストを大幅に削減しつつ、複数の自動評価指標で優れた性能を示したことを報告しています。 A9-5 特許請求の範囲の自動書き換え生成モデルのための大規模データセットの構築 ○河野誠也 (理研/NAIST), 野中尋史 (愛工大), 吉野幸一郎 (理研/NAIST) 特許請求の範囲の自動書き換えを目的とした、新しい大規模データセットの構築に関する研究です。特許請求の範囲の書き換え事例を収録したデータセットを用いて、大規模言語モデルに基づく自動書き換え生成モデルの構築とその性能の評価を行いました。 2004年から2022年にかけて公開された特許情報から、同一の特許出願に基づく公開特許公報と特許公報の特許請求の範囲ペアを抽出し、これらを基にデータセットを構築しています。 B10:対話(2) B10-1 ただ一つのプロンプトによるタスク指向型対話システムの実現 ○鈴木順大, 石垣龍馬, 宿里晃太郎, 藤本拓真, 河窪大介, 酒造正樹, 前田英作 (東京電機大) どんなもの？この研究では、大規模言語モデル（LLM）を用いて、ルールベースの制御に依存せず、ただ一つのプロンプトだけで制御されるタスク指向型対話システムを提案しています。先行研究では対話フェーズごとに異なるプロンプトを用意し、対話の進行をルールベースで制御していました。Dialogue Flow Prompt（DFP）と呼ばれる、対話フローを制御するための設計手法がキーとなっています。DFPは対話の進行、フェーズ遷移の条件、具体的な対話フェーズの指示、返答の条件など、対話システムを構築する上で必要な要素を一つのプロンプト内で網羅的に記述し、大規模言語モデルによる生成を制御します。 要点としては、柔軟に会話を切り替えた場合、１，「ただし，お客様の要望次第では順番を入れ替えたり，タスクを飛ばしても構いません」という記述を入れると柔軟な会話をする２，フェーズ表現、「・」ではなく、「１」「２」のように数字にした方が柔軟になるなどのポイントがありました。 B10-2 日本語日常対話コーパスへの基礎解析アノテーション ○赤間怜奈 (東北大/理研), 浅原正幸 (国語研), 若狭絢 (東北大), 大村舞 (国語研), 鈴木潤 (東北大/理研) 日常の会話を収めた「日本語日常対話コーパス」に基本的な解析情報のアノテーションを施し、Universal Dependencies (UD) 準拠の言語資源を構築しました。形態素解析や構文解析を行い、その情報を活用して依存構造解析器を作成し、既存の解析器と比較することで、その特性と有用性を評価しています。 日本語日常対話コーパスは以下のリンクです。https://github.com/jqk09a/japanese-daily-dialogue B10-4 RealPersonaChat: 話者本人のペルソナと性格特性を含んだ雑談対話コーパス ○山下紗苗 (名大), 井上昂治 (京大), 郭傲, 望月翔太 (名大), 河原達也 (京大), 東中竜一郎 (名大) どんなもの？この研究では、話者本人のペルソナと性格特性を反映した日本語の雑談対話コーパス「RealPersonaChat」(RPC)を構築しました。これにより、人間らしい個性を表現できる対話システムの開発が可能となります。 RPCと既存のPersonaChatコーパスの日本語版であるJPersonaChatを比較分析しました。その結果、RPCの対話はペルソナの情報を過剰に含まず、第三者による対話満足度が高いことが明らかになりました。 B10-6 敵対的発言を取り入れた議論による言語モデルの学習強化と推論力の向上 ○Mengsay Loem (東工大), 金子正弘 (MBZUAI/東工大), 岡崎直観 (東工大) 敵対的議論を取り入れた学習フレームワークを提案し、言語モデルの推論能力と学習効率の向上を図っています。具体的には、モデルが不正解を出した際に正解へ誘導し、正解の場合にはわざと不正解に誘導する敵対的な議論を用いて、言語モデルの論理的思考力や説明力を高める手法を開発しました。学習モデルの出力が不正解の場合には正解に、正解の場合には不正解に誘導する敵対的議論を行うことで、学習モデルがより深い理解と論理的な思考を要求される状況を作り出します。このプロセスを通じて、モデルは議論能力を鍛え、推論時の性能を向上させることができます。 Flan-T5とGPT-3.5を用いて算術問題、常識推論、質問応答タスクにおける提案手法の性能を評価しました。その結果、提案手法は議論を行わない学習方法や、推論段階のみで議論を適用する手法、さらにはChain-of-Thought（CoT）を使用した手法と比較して、すべてのタスクにおいて高い性能を示しました。 A11:LLM手法提案 A11-1 Dynamic Inference Thought in Large Language Models ○鈴木拓真, 川本樹, 三山航, 目黒拓己, 鈴木中穂美, 高木友博 (明大) この研究では、大規模言語モデル(LLM)を用いた推論プロセスを動的に行い、従来の手法よりも精度の高い推論を可能にする新しいフレームワークを提案しています。LLMが自身の推論を評価し、事前知識を参照しつつ、必要に応じて推論を改善するプロセスを動的に実行します。このアプローチにより、LLMはより複雑な推論問題に対しても、高い精度で解答することが可能となります。 このアプローチでは推論の各ステップを分割し、動的に推論を改善していくことで、より高度な推論能力を実現しています。特に、ANLIデータセットを用いた実験では、従来手法と比較して最大で32%の精度向上を達成しており、その効果を実証しています。 どうやって有効だと検証した？提案フレームワークの有効性は、ANLIデータセットを用いた実験によって検証されました。従来の手法（IO、CoT、SI）と比較して、提案フレームワークが最良の精度を達成していることが示されています。また、推論プロセスの明確さと論理的な一貫性も強調されており、動的な推論プロセスの効果が定量的にも定性的にも証明されています。 A11-2 大規模言語モデル事前学習の安定化 ○高瀬翔, 清野舜 (LINEヤフー/SB Intuitions), 小林颯介, 鈴木潤 (東北大) 大規模言語モデル（LLM）の事前学習における損失スパイク問題の原因とその対策について分析しています。損失スパイクはモデルの性能を低下させ、学習の失敗につながることがあると指摘されています。特に、Layer Normalization（LN）層が勾配爆発を引き起こすことがこの問題の一因であるとし、LN層での勾配爆発を抑制することにより損失スパイクも抑制できることを実験を通じて示しています。 A11-3 大規模言語モデルに対するサンプリングを活用したメンバーシップ推論攻撃 ○綿祐貴 (東工大), 金子正弘 (MBZUAI/東工大), Youmi Ma, 岡崎直観 (東工大) この論文は、大規模言語モデル（LLM）の学習データに特定のテキストが含まれていたかどうかを判断するメンバーシップ推論攻撃に関するものです。従来の手法がモデルの計算する尤度に依存していたのに対し、本研究では出力テキストのみから判断するサンプリングベースのメンバーシップ推論攻撃を提案しています。これは、特に長いテキストに対して高い性能を示しました。MIA(Membership Inference Attacks)：LLMの学習データに特定のテキストが含まれるかどうか確認する手法。著作権の関係で、チェックすることが重要だと考えられています。 この研究では尤度を直接用いないため、尤度を提供しないモデルにも適用可能です。特に、長いテキストに対する検出で高い性能を発揮する点が優れています。 提案手法の検出性能を既存手法と比較し、ROUGE-1とzlib圧縮エントロピーを用いた実験で、尤度を利用しないにもかかわらず既存手法と肩を並べる、またはそれを上回る性能を発揮しました。特に、長いテキストを対象とした検出での高性能が示されました。 雑感 上記で書かせていただいたもの以外にも、大変高名な先生の基調講演があったり、ポスターセッションも素晴らしい発表ばかりでした。夜は懇親会等にも顔を出させて頂きまして、大変勉強になりました。 この分野、皆さん勢いがありますね。基調講演の先生がいろいろやりたいことがあって忙しいらしく、「日本では最近、ワークライフバランスという言葉があるらしいが・・・・」とおっしゃっていたのが印象的でした。 とはいえ、みなさん前向きな印象でしたね。技術の進歩を心から楽しんでいる、そんなイメージを持ちました。

近年、AIの普及が急速に進み、ビジネスでもその活用がますます求められています。GMOインターネットグループでは、全パートナー（社員）がAIを活用して「AIで未来を創るNo.1企業グループ」を目指しています。その一環として、2023年より全パートナー（社員）が対象のAI専門家による「AIセミナー」を定期開催してきました。2024年1月31日（水）には、GMOインターネットグループ デベロッパーエキスパート　成瀬 允宣がAIセミナーに登壇。STEAM教材として注目される「レゴ® エデュケーション SPIKE™ プライム」で作られた車型ロボットで深層学習による画像認識自動走行を目指すセミナーを開催しました。今回は、その模様をお届けします。 「AIで未来を創るNo.1企業グループ」実現を目指す GMOインターネットグループでは「AIで未来を創るNo.1企業グループへ」を掲げ、 ① 時間とコストの節約② 既存サービスの質向上③ AI産業への新サービス提供 を軸に、グループ全パートナーを挙げてAIの活用、AI関連サービスの提供を進めています。 これらを達成するには、全パートナーがAIを使いこなすことが必須です。そのために、GMO AI＆Web3株式会社の顧問に就任した木内翔大氏や茶圓将裕氏をはじめ、外部講師を招き「AIセミナー」を月に２回開催して、AIに関する最新動向や最新ツールの理解を深めています。 【GMOインターネットグループの「AIで未来を創るNo.1企業グループ」実現への取り組みの詳細はコチラ  https://www.gmo.jp/ai-history/ 】 AIへの理解を深めよう： レゴ×深層学習による画像認識自動走行 成瀬 允宣（GMOインターネットグループ デベロッパーエキスパート） 2024年1月31日（水）には、GMOインターネットグループ デベロッパーエキスパート 成瀬 允宣が「AIセミナー」に登壇しました。「AIへの理解を深めよう： レゴ×深層学習による画像認識自動走行」と題したセミナーは「レゴ®エデュケーション SPIKE™ プライム」で深層学習を活用して自動走行に挑戦するものでした。 なぜ「レゴ®エデュケーション SPIKE™ プライム」に着目したのでしょうか？ 成瀬はプログラマーとして従事する傍ら、GMOインターネットグループのデベロッパーエキスパートとして、テックカンファレンスへの登壇や、渋谷に拠点を置く企業5社と渋谷区教育委員会が連携した「Kids VALLEY 未来の学びプロジェクト」にて渋谷区の小学生に授業支援を行うなどプログラミング学習を普及する活動を行っています。 2022年には「Kids VALLEY 未来の学びプロジェクト」にて「問題解決型学習（PBL:Project Based Learning）」（PBL学習）支援として、教育版マインクラフトを活用した「PBL×プログラミング学習」という新たな試みを、渋谷区立笹塚小学校で実施してきました。 記事｜GMOインターネットグループによるプログラムを組み込んだ、新たなPBL学習の取り組み ～未来の笹塚小学校をつくろう～ そんな成瀬が、小学生のSTEAM教育を高める教材として注目しているのが「レゴ®エデュケーション SPIKE™ プライム」だといいます。 STEAM教育とは Science（科学）、Technology（技術）、Engineering（工学・ものづくり）、Art（芸術・リベラルアーツ）、Mathematics（数学）の5つの単語の頭文字を組み合わせたSTEAM、それぞれの分野横断的に取り組む教育概念です。https://coeteco.jp/articles/10858 レゴ®エデュケーション SPIKE™ プライムについて 小学校高学年から中高生向けのSTEAM教材として、注目されています。https://education.lego.com/ja-jp/products/-spike-/45678/ 今回のセミナーでは、深層学習を理解するための教材として株式会社アフレルから提供されている「ロボットではじめる深層学習 TensorFlow × SPIKE™ プライム 自動走行セット」を使用して、自動走行に関するプロセスを、全パートナー（社員）に解説しました。 GMOインターネットグループ本社シナジーカフェ「GMO Yours」に走行コースを設けて、「SPIKE™ プライム」でつくった車型ロボットをマイクロコンピュータ「Raspberry Pi（ラズベリーパイ）」と組み合わせて自動走行を目指します。参加者に向けて、その模様をライブ配信して、リアル会場とオンラインのハイブリッドで開催し、ライブ感のあるセミナーとなりました。 教材「ロボットではじめる深層学習 TensorFlow × SPIKE™ プライム 自動走行セット」について 「レゴ® エデュケーション SPIKE™ プライム」に「テキスト教材」「SPIKEプライム自動走行コース」「楕円コース」「障害物ブロック」「Raspberry Pi」などをセットにした学習教材です。株式会社アフレルが販売しており、深層学習を活用した自動走行のプロセスを体系的に学ぶことができます。 教材について：https://ai.afrel.co.jp/tensor-spike/?_gl=1*zoviuk*_ga*MjgxMjQxOTUuMTcwNzYyNTQxNw..*_ga_XE96W51NY4*MTcwNzY0MDQwOS4yLjEuMTcwNzY0MDUxNC4wLjAuMA 株式会社アフレル明るい未来社会づくりに向けて、企業から、大学・高専・高校・自治体まで幅広い層に向け教育支援サービスをご提供します。最新のテクノロジー、特にロボット技術を駆使して、ソフトウェア開発過程や成果の「見える化」、そして教育効果の「見える化」をロボットの動きで実現し、知的な感動を生む新しい教育サービス・教材の企画・開発・販売により人材育成の現場のみなさまを支援します。公式サイト：https://afrel.co.jp/ TensorFlow（テンソルフロー）とは Googleが開発した機械学習のオープンソースライブラリ。画像や音声認識、翻訳などの自然言語処理など広く活用されています。https://www.tensorflow.org/?hl=ja Raspberry Pi（ラズベリーパイ）とは 手軽にIoTが始められるマイクロコンピュータ。コンピュータの教育を促進するために生み出されたと言われています。https://coeteco.jp/articles/10044 はじめに：セミナーの流れについて 成瀬：本日は「深層学習による自動走行」と「深層強化学習による自動走行」についてデモンストレーションも交えて学んでいこうと思います。はじめに全体の流れを説明します。車型ロボットは、カメラとRaspberry Piが搭載されています。Raspberry Piに画像収集用プログラムを送り、走行中の車道をカメラで撮影して、その画像を学習データとして扱います。 【1】「深層学習による自動走行」では収集したデータを使って学習を行い、そのモデルを使って自動走行を目指します。学習はブラウザ上で Python を記述、実行できる「Google Colaboratory」を用いて進めます。 【2】「深層強化学習による自動走行」ではエージェントと呼ばれるプログラムを動かして報酬を与え、次に取るべき行動は何か？をコンピュータに自動で選択させます。今回は、道路に引かれた中央線に近づけば近づくほど、高い報酬を得られる仕組みです。コンピュータが報酬を最大化させるモデルを独自に構築するのを目指します。 データ収集からスタート 成瀬：さっそくデータ収集から始めていきましょう。実際にロボットを起動させコースを走行させます。事前につくったプログラムでステアリング（乗り物の進行方向の向き）を変えて道路を走行していきます。走行中にカメラで道路を撮影して、その画像がデータとして収集されていきます。方角を変えて反対回りも撮影して、データを収集します。 セミナーでは走行している様子をライブ配信しました 成瀬：約5分で約1500枚の画像が撮影できました。データには撮影時のステアリング角度の数値も蓄積されています。これらのデータを使って訓練を実行します。 「教師あり学習」でモデル作成 成瀬：深層学習（ディープラーニング）は機械学習の１つです。人間によって記述されたルールに従って動く「ルールベースプログラミング」と異なり、機械学習とは帰納プログラミングによりコンピュータにプログラムを作成させる手法で、大きく分けて「教師あり学習」と「教師なし学習」の二つのアプローチがあります。 「教師あり学習」では、正解となる答えが含まれたデータを使い、最適なモデルを導き出す手法です。例えば犬のイラストに「犬」、猫のイラストに「猫」と正解ラベルをセットに与えてモデルを構築することで、犬や猫のイラストデータを与えてどちらに分類されるかといったタスクに使用できます。一方、「教師なし学習」ではデータに正解ラベルを与えない状態で、データのパターンや構造を自動的に抽出する手法です。 今回は具体的にどれくらいステアリングを回すかという判断を「教師あり学習」で行います。さらに「深層強化学習」で報酬に基づいて行動を最適化し、自動走行させることも行っていきます。 成瀬：まずは画像処理モデルをつくることから始めます。画像を分割してみると、白い白線と黒い道路といった色情報があると思います。その色情報を0＝白、1＝黒というように数値に変換してデータに持たせます。こうして識別されたデータを自動走行用画像処理モデルに渡します。そのモデルがデータからパーセントの傾きや適切なステアリング値を示す関数を作成します。この関数を用いれば、新しいデータに対しても最適なステアリング値を得ることが出来ます。 成瀬：ここで重要なのは、得られた関数を正確に選択することです。そこでモデルの性能を評価する目的関数を使用して、最適なモデルを選択します。目的関数にはさまざまな計算法がありますが、今回は平均二乗誤差を目的関数としています。また最適なモデルを得るために、パラメータを調整する必要があります。この調整には、目的関数の微分により傾きを計算して最適な値を探る「勾配法」を使います。 平均二乗誤差 各データに対して「予測値と正解値の差（＝誤差）」の二乗値を計算し、その総和をデータ数で割った値（＝平均値）。今回は平均二乗誤差を目的関数に設定しました。 自動走行で活用される「ニューラルネットワーク」とは？ 成瀬：深層学習による自動走行は「ニューラルネットワーク」という手法で行います。ニューラルネットワークは、人間の脳の構造を模した機械学習モデルです。ニューロン同士の結合を計算グラフで表現し、活性化関数を用いて非線形な変換を行うことができます。 成瀬：活性化関数は、線形モデルだけでは表現できない複雑な関係性を捉えるために使用されます。非線形な法則性を表現できるため、複雑なパターンを扱えます。ニューラルネットワークは、目的関数を最小化するように重みとバイアスを調整しており、誤差逆伝播法やミニバッチ学習などの手法を使い、効率的に学習を進めます。 成瀬：ニューラルネットワークの学習では、人が設定する値であるハイパーパラメータの調整も重要です。最適なハイパーパラメータを見つけるのには試行錯誤が必要ですが、調整することによりモデルの性能を改善できる可能性があります。 ハイパーパラメータ ミニバッチサイズ、最大エポック数、学習率、ネットワークの層の深さ、ネットワークの各層のノード数などの設定 成瀬：画像データに特化したニューラルネットワークとして「畳み込みニューラルネットワーク（CNN）」があります。CNNは、画像データの特徴を抽出する手法です。画像の特徴は、例えば、物体の移動や位置などですが、通常のニューラルネットワークではこれらの特徴を捉えるのが難しくなります。 成瀬：しかしCNNを活用することで、画像にフィルターを適用して特徴を抽出します。このフィルターは、たとえば、エッジやパターンなどの特定の特徴を検出する役割を果たします。畳み込み操作によって、画像の特徴が際立ちます。この畳み込み層を重ねていくことで、より画像の特徴が際立ち、高度な特徴量が抽出されます。こうして得られた特徴が、ニューラルネットワークの出力層に結合されて、最終的な出力を生成します。このようにCNNは画像解析やパターン認識などのタスクで広く使用されています。 成瀬：こうしたモデルで学習を行い、ロス値をグラフにしたところ、トレーニングデータ（青）と検証データ（オレンジ）の間に大きな差があることがわかりました。トレーニングデータ（訓練データ）ではロスが低いのに対し、検証データではロスが増加しています。 これはモデルが訓練データに過度に適合し、新しいデータに対応できなくなる「過学習」と呼ばれる状態に陥っていることを示しています。過学習を解決するために、ドロップアウトやアーリーストッピングといった手法で改善を図りましょう。 成瀬：またニューラルネットワークを活用することで局所最適解に陥る「勾配降下法の問題」もあります。改善には、勾配に沿って一度にどれだけ降りていくかを決めるハイパーパラメータの「学習率」を調整したり、画像データを増やすことなどが有効です。データを増やす場合、撮影した画像を反転させてデータを増やすといった方法も活用できます。こうしてモデルの汎化性能を向上させていきます。 深層強化学習（DQN（Deep Q-Network））とは？ 深層学習による自動走行のプロセスを説明した後、「深層強化学習による自動走行」についてもシュミレーターを用いて解説しました。 成瀬：「深層強化学習」についても説明します。深層強化学習はエージェントによる学習です。深層強化学習とはディープニューラルネットワークの考え方を含めた強化学習です。エージェントに報酬を与えて、エージェントが行動を選択します。試行錯誤を繰り替えして報酬を最大化する行動を学習します。具体的にはディープニューラルネットワーク（DNN）とQ学習を組み合わせたDQN（Deep Q-Network）で、これを深層強化学習といいます。今回は、線の重心からどれだけ離れているかを報酬定義としています。 セミナーの中では、深層強化学習に理解を深めるため、シュミレーターで学習したモデルを走らせてみました。そうするとコンピュータが報酬を最大化させるかのように、独自に自動的に黒線に沿って走っている様子が伺えました。 自動走行できるか？「SPIKE™ プライム」で実践！ それでは、学習したモデルで、どのように走行するのか？セミナーでは実際に自動走行にチャレンジしました。 成瀬：こうして深層学習で学習させたモデルを使い、「SPIKE™ プライム」の車型ロボットを走行させてみましょう。一部で上手く曲がれない部分もありましたが、最初の画像収集時のプログラムと違い、カーブを曲がる動作が滑らかになりました。 成瀬：今回、この実践に至るまでに難しい話が続いたと思いますが、それは私自身も同じです。学習を進めるなかで、何をすべきか全くわからないことがありました。 そこでChatGPTに何でも相談してみたところ、適切なアドバイスをもらえました。皆さんも、今後、深層学習を活用する上で、つまづきポイントがあるかもしれません。その際はChatGPTに頼ってみるのは有益だと思います。 まとめとして、深層学習では帰納プログラミングによりルールベースプログラミングでは難しい推論を実現します。ロボットを使用した実践では一部で上手くいかなかった所もありました。今回紹介したものは、あくまで訓練に基づくものなので、不確実性が介在することも分かったかと思います。 親しみやすいテーマで、AIの理解が深まった 実践も交えた本セミナー。参加したパートナー（社員）で、普段、開発に携わっているGMOインターネットグループのエンジニアは、どのように感じたのでしょうか？ アプリケーションエンジニア 舟木さん・高島さんに、話を聞きました。 「AIセミナーと聞くと難解な数式を想像しがちですが、「車輪付きロボットをAIで自動走行させる」というテーマで親しみやすかったです。走行させたのは短いコースでしたが、自動走行させるために約2,800枚の画像を学習させており、AIには高性能なGPUやメモリが重要であることがよくわかりました。 セミナーではルールベースプログラミングによるロボット制御と、機械学習を活用した帰納プログラミングによる制御の比較も行われ、従来のコンピュータとAIの違いを明確に示すわかりやすい説明と感じました。またAI研究の進展により学習プロセスがより効率的になっていることも理解できました。引き続きAIの進化に注目し、活用していきたいと思います」（舟木さん） 「Webエンジニアとして、日々の業務のあらゆる場面で生成AIを利用していますが、AIそのものの仕組みに対する理解が今まで曖昧でした。GMOインターネットグループに入社後、AIセミナーを受講していく中で、AIに対する理解が深まり、関心が高まっています。 今回のセミナーもその一助になりました。まずロボットによる実演から入り、その後に理論の説明を行い、最後に講義の内容を踏まえて再度実演というセミナーの流れだったため、最後まで飽きることなく学ぶことができました。特に強化学習の仕組みの説明や実演の部分が、AIの将来に対する期待が膨らむという点で、最も興味深かったです。Webエンジニアの界隈でも、「生成AIを正しく使いこなして成果を出すエンジニア」への需要が高まっていくことは確実な状況であると感じます。AIについて深く学ぶことができる社内の環境を存分に活用し、引き続きAIへの知見を高めていきたいです」（高島さん） 今回のセミナーでは、深層学習や深層強化学習の応用イメージから今後の自動運転はもちろん、AIの大きな可能性も感じることができる機会となりました。 GMOインターネットグループでは、引き続き「AIセミナー」を開催して、「AIで未来を創るNo.1企業グループ」を目指しています。 「GMO Developers」でも、AIへの理解を高められるよう、AIに関するトピックスや技術記事をお届けして参りますので、是非ご期待ください。

GMOインターネットグループ　デベロッパーエキスパートの市川（@Yoshihiko_ICKW）です。2024年03月02日（土） 第32回 人工知能学会 金融情報学研究会（SIG-FIN）@東京大学に参加してきました。目的は、ファイナンス分野への人工知能技術の応用研究の調査のためです。ChatGPTのファイナンスへの応用の話も多かったです。よろしければご覧ください。（文章の作成に当たっては、一部Chat-GPTを利用しました） イベントの概要 人工知能学会 金融情報学研究会（SIG-FIN）は人工知能学会の第二種研究会です。 詳細は上記リンクに譲るのですが、近年より広い方々の金融市場への関心が高まっています。このような背景で、ファイナンス分野への人工知能技術の応用を促進するための研究会になります。人工知能分野の研究者や金融市場の現場の技術者が参加する、大変ユニークな研究会になっています。 最近、かなり発表量が増加傾向にあり、聴いているだけでも忙しい研究会です。 概要は以下の通りです。 開催形式：会場およびオンライン（Zoom使用）のハイブリッド開催会場： サイバーエージェント Abema Towers 発表の概要 こちらの研究会はありがたいことにJ-Stageで各発表のpdfが公開されています。（一覧はこちらhttps://sigfin.org/?032）。以下、著者の敬称略とさせて頂きます。 株式市場(5件) [座長] 水門 善之(野村證券/東京大学) (01)成行注文間の相互作用を含むサンタフェ型金融板モデルによる価格変動の理論解析 若月大暉, 金澤輝代士(京都大学) この研究では、市場の価格変動を説明するために、quadratic Hawkes過程を基にした新しい金融板モデルを提案しています。このモデルは、成行注文の相互作用を含み、個々のトレーダーのダイナミクスから価格変動を導出することを目的としています。Hawkes過程は、各イベントが他のイベントを誘発する自己励起性を持つモデルで、経済現象の説明に用いられてきましたが、市場で重要なintensityの分布のべき乗則を再現できませんでした。本研究では、quadratic Hawkesモデルをさらに拡張し、市場注文の相互作用を考慮したモデルを提案しており、より実際の市場の動きに近い理論解析が可能です。成行注文と指値注文のダイナミクスを組み合わせた点がユニークです。 (02) 対数尤度比検定を用いた東京証券取引所における注文分割取引者のクラスタリング解析 Sato Yuki, 金澤輝代士(京都大学) この研究では、金融市場で観測される成行注文流のLRC(Long Range Correlation)を、注文分割取引者の行動から理解することを目的としています。注文分割は、実務家観点で、分割した方が執行コストが抑えられると考えられています。特に、東京証券取引所における注文分割取引者の注文頻度や注文分割回数の分布を分析し、注文流の長期相関の起源を明らかにすることを試みています。先行研究では、成行注文流の長期相関の起源が注文分割行動によるものであるとされていますが、個々の取引者の行動レベルでの詳細な分析は行われていませんでした。本研究では、対数尤度比検定を用いて注文分割取引者をクラスタリングし、その行動特性を明らかにしています。 (03) 研究開発の凝集度が企業価値に与える影響についての分析 Haotian Wu, Dongli Han(Nihon University), Chenghuan Zhang(The University of Tokyo) テンセント社とバイドゥ社を事例に、特許データ、市場価値データ、決算報告データを用いて、研究開発凝集度とシンプルqの関係を分析しています。研究開発凝集度とは、企業内での研究開発活動がどれだけ集中しているかを示す指標です。研究開発活動が集中している企業は、企業価値を示すシンプルqの値が高くなる傾向にあることが示されました。後半では未上場企業25社に対し検証を実施、同傾向が示されました。 先行研究では、研究開発投資、特許の数や引用数などを用いて科学技術の発展が企業の業績や市場価値に与える影響を分析してきました。しかし、特許の中身＝テキスト情報を利用した分析は少ないです。 研究開発凝集度の評価には、特許データから得られる国際特許分類（IPC）、特許タイトルおよび特許概要の類似度分析を利用しています。これらのデータを基に、企業内での研究開発活動がどれだけ特定の分野に集中しているかを定量的に評価し、その集中度が企業価値にどのような影響を与えるかを分析しています。 (04) Dynamic Covariance Matrices Averaging を用いた分散共分散行列の予測 井澤剛(野村アセットマネジメント株式会社) 金融時系列データの分散共分散行列を予測する新しい手法「Dynamic Covariance Matrices Averaging (DCMA)」の提案です。異なる手法で推定された分散共分散行列を組み合わせ、直近のパフォーマンスに基づいて重み付けし、加重平均を行うことで、市場の変化に応じたより適応的な分散共分散行列の推定を可能にします。従来の分散共分散行列の推定手法が固定のウィンドウサイズやパラメータに依存していたのに対し、DCMAは、異なるウィンドウサイズで推定された分散共分散行列を、直近の予測性能に基づいて重み付けして組み合わせる手法です。これにより、急激な市場の変動にも対応可能になります。 (05) Graph Based Entropyと領域間相互作用を用いた株式市場と景気循環の分析 中田喜之, 吉野貴晶, 杉江利章(ニッセイアセットマネジメント株式会社), 関口海良, 劉乃嘉, 大澤幸生(東京大学) 株式市場の長期的なリターンの相関係数行列から生成されたグラフと、短期的なリターンの関係性を分析し、景気循環と市場の物色傾向の関連性を明らかにしています。具体的には、Graph Based Entropyと領域間相互作用の手法を用いて、短期間における特定のクラスタ（銘柄群）への物色の偏りが景気循環のどの段階に関連しているかを分析しています。先行研究では、業種別の分析や市場のネットワーク分析など様々な手法が用いられてきましたが、本研究は、長期的なリターンの相関に基づくクラスタリングと、短期的な物色の偏りを組み合わせることで、景気循環と株式市場の動きの関連性をより詳細に解析しています。TOPIX 500、S&P 500、STOXX Europe 600の3つの主要な株式指数に対して実証分析を行い、物色の偏りが景気循環に対する予測力を持つ可能性を示す結果を得ました。 テキストマイニング(5件) [座長] 真鍋 友則 (SOMPOリスクマネジメント) (06) 言語モデル性能評価のための日本語金融ベンチマーク構築と各モデルのパフォーマンス動向 平野正徳(株式会社Preferred Networks) 金融ドメインに特化した日本語の大規模言語モデル（LLM）の性能を評価するためのベンチマークを構築しました。https://github.com/pfnet-research/japanese-lm-fin-harnessこのベンチマークは、金融分野特有の複数のタスクを含んでおり、主要なモデルに対する性能測定を行いました。結果として、現時点でGPT-4が顕著な性能を示していることを確認しました。また、nekomata-14Bが性能が良く、唯一金融のテキストデータを学習させている可能性があるとのことです（他のモデルは金融のデータを学習させていない）。先行研究にもベンチマークはない状況です。金融分野特有の5つのタスク（金融分野における感情分析、証券分析の基礎知識、公認会計士試験の監査問題、ファイナンシャルプランナー試験の選択問題、証券外務員試験の模擬試験）を用いたベンチマークの構築です。構築したベンチマークを使用して、GPT-4を含む複数の言語モデルに対する性能測定を実施しました。 (07) 金融ニュースのタグ付けにおける大規模言語モデルの有効性検証 山口流星, 田代雄介, 鈴木彰人, 辻晶弘(株式会社 三菱UFJトラスト投資工学研究所) 本研究は、最近の大規模言語モデル（LLM）の急速な発展に着目し、特に金融ニュースの分野におけるESG（環境、社会、企業統治）関連のタグ付けタスクにおけるその有効性を検証しました。LLMの性能を、プロンプトエンジニアリングやfine-tuningを含む異なるアプローチを用いて評価し、従来のモデルや他の新しい手法と比較しています。金融ニュースのタグ付けという具体的な応用において、大規模言語モデルの有効性を検証した点が先行研究と比較して新しいところです。日本語の金融ニュースに対するESGタグ付けタスクを設定し、LLM（ELYZAモデルを使用）と他のモデルや手法（BERT、SetFitなど）との比較を通じて性能を評価しました。学習データのサイズが異なる3つのシナリオ（16件、128件、512件）において、AccuracyとF1-scoreを用いて、大規模モデルの有効性を検証しています。 (08) 経営トップメッセージにおける可読性分析 中尾悠利子(関西大学), 石野亜耶, 岡田斎(広島経済大学) この研究は、日本企業が発行するサステナビリティ報告書の経営トップメッセージの可読性とESGパフォーマンスとの関係を検証しています。さらに、サステナビリティ報告書の可読性を判定するためにニューラルネットワークのモデルを提案しています。このアプローチにより、報告書の可読性が企業のESGパフォーマンスにどのように影響するかを分析できます。特徴量として文字数、単語数、文節数など13の値の組み合わせを用い、さらに分散表現を利用することで、従来の研究では見過ごされがちだったサステナビリティ報告書の可読性の複雑な側面を捉えられる可能性があります。 (09) 大規模言語モデルを活用したESG評価 濱田祐馬, 石野亜耶(広島経済大学), 中尾悠利子(関西大学) 本研究では、企業のサステナビリティ報告書を解析しESG（環境・社会・ガバナンス）評価を自動で行うために大規模言語モデル（LLM）を活用する手法を提案しています。従来のESG評価は、評価機関ごとに異なる指標を用いており、また人手による評価には多大な時間とコストがかかるという問題がありました。本研究では、これらの問題を解決するために、統合された「価値モデル」を基に、大規模言語モデルを活用してESG評価を自動化する手法を提案しています。ChatPDFを利用して、サステナビリティ報告書からの情報抽出とESG評価を行う点にあり、ESGに関連する指標の評価を自動で行うことが可能になります。また、価値モデルを基にした質問設計により、具体的なサブゴールに関する情報開示スコアを評価することができます。本研究では、ESGスコアの高い企業のサステナビリティ報告書を用いて実験を行い、ChatPDFを利用したESG評価の有効性を検証した。評価は、ChatPDFが提供するYes/Noの回答の正確さと、回答の根拠となる箇所（該当箇所）の正確さが挙げられる。実験の結果、正答率は0.78、該当箇所正答率は0.68と高い性能を示しています。 (10) Text-Based Correlation Matrix ーテキスト解析を用いた多資産間の相関構造の推定ー 澤木智史(みずほ銀行), 田村俊介, 仲山泰弘(みずほリサーチ＆テクノロジーズ) 金融テキスト解析を用いて、多資産間の相関構造を推定する研究。インフレ率の変動や金融政策の変更などの背景により変化する資産間の相関構造を、市場の価格データだけでなく、ニューステキストや中央銀行の発表テキストを用いた自然言語処理によって予測する手法を検証しています。従来の市場データに基づく相関係数の推定方法は、時間ラグや予測誤差、局面転換時の解釈性の乏しさなどの問題がありました。本研究では、ニューステキストや中央銀行のテキストを分析することで、これらの問題に対処し、時系列データからの予測と比較しても有用性を示しています。自然言語処理を活用し、ゼロショット学習済みモデルを用いた含意判定によって各ニュースが上昇または低下仮説文を含意しているかをスコア化し、相関係数の変化予測に活用しています。2009年1月から2023年11月までのBloombergのニュースヘッドラインデータを使用し、米国の株式と債券の将来3ヶ月の相関係数と過去3ヶ月の相関係数との差分を予測対象として、XGBoostモデルを用いた予測精度の検証を行っています。その結果、提案モデルはベンチマークモデルに比べてRMSEが小さくなり、テキストベースのスコアが相関変化予測に有用であることが示されました。 機械学習1(5件) [座長] 平松 賢士（アイフィスジャパン） (11) 凸リスク尺度に基づく再帰的強化学習 比留木幹人(京都大学), 中川慧(野村アセットマネジメント株式会社) 本研究は、再帰的強化学習において、凸リスク尺度を目的関数に設定し、リスクの時間整合的な評価を可能にする手法を提案しています。柔軟な目的関数の選択とリスク評価の一貫性を実現します。従来の再帰的強化学習では、目的関数の選択が限定的であり、リスク尺度の時間的整合性を保証することが難しいとされていました。本研究ではこれらの課題を解決しています。凸リスク尺度と動的凸リスク尺度を目的関数として再帰的強化学習に適用し、これらの勾配計算方法を提案している点です。これにより、リスクの時間整合的な評価と、多様なリスク尺度からの目的関数の選択が可能となります。人工データと実市場データを用いた実験を通じて、提案手法の有効性を検証しました。特に、リスク管理能力と投資戦略としての性能を評価する複数の指標を用いて、提案手法が従来の手法よりも優れていることを示しています。 (12) マクロ経済データとBeige Bookを用いた金融政策決定前の資産価格変動予測 藤原真幸(京都大学), 中川慧(野村アセットマネジメント株式会社), 水門善之(野村証券株式会社), 秋田祐哉(京都大学) 連邦公開市場委員会(FOMC)の金融政策決定会合前の特定期間に、Beige Bookの公表とマクロ経済データを組み合わせて価格変動を予測するモデルの開発をしています。特に、Beige Bookのセンチメント分析とXGBoostを用いています。Beige Bookのテキストデータから抽出したFinBERTによるセンチメント情報を加えることで、金融政策の決定が資産価格に与える影響をより正確に予測する点が新しい点です。1996年から2023年にかけてのBeige Bookおよびマクロ経済データを使用して予測精度の評価を行い、特にインフレ率や失業率などのマクロ経済指標とBeige Bookからのセンチメントスコアを組み合わせることで、資産価格の変動を予測することに成功しています。 (13) 量子機械学習を用いた信用リスクモデルの提案 Rei Taguchi(The University of Tokyo) 量子機械学習技術を活用して、二値分類の信用リスクモデルを開発しています。カーネル関数部分を量子回路で置き換えた量子サポートベクターマシン(QSVM)を提案し、新しい信用リスクモデルを構築しています。提案手法は比較手法よりも優れた性能を示し、量子機械学習が信用リスクモデル構築においてある程度有用であることを示唆しています。量子機械学習を活用することで、計算負荷の高い非線形な関数の問題を補完し、より表現力の高いモデルを構築しています。ポイントは量子サポートベクターマシン(QSVM)です。QSVMでは、従来のSVMのカーネル関数を量子回路で置き換えることにより、高次元の特徴空間での非線形分離を効率的に行うことが可能になります。実験では、Kaggleから取得したデータセットを使用し、特徴量選択にXGBoost、次元削減にPCAを用いた上で、提案したQSVMモデルと従来の機械学習モデル（ロジスティクス回帰、SVC、決定木、ナイーブベイズ分類器）との性能比較を行いました。評価指標にはAccuracy、Precision、Recall、F1-scoreを用い、提案手法が他の手法と比較して優れた性能を示すことを確認しました。 (14) 拡散モデルの金融時系列生成への応用 高橋友則(総合研究大学院大学), 水野貴之(国立情報学研究所) 拡散モデル、特にDenoising diffusion probabilistic models（DDPMs）を金融時系列の生成に応用し、株価だけでなく、出来高やスプレッドといった関連時系列も同時に生成するモデルを提案しています。金融市場で観測される統計性を再現していることを示す研究です。金融時系列データをウェーブレット変換でスペクトログラムに変換し、その後DDPMsを適用する点にあります。これにより、株価に加えて価格スプレッドや取引高などの関連時系列を同時に生成し、それらが金融市場で観測される統計性を再現することが可能になります。NASDAQのアップル社の分足データを用いて、提案モデルの学習と生成を行い、実際の時系列データと合成時系列データの比較を通じて、提案モデルが金融時系列の特徴（対数収益率のファットテール性、価格スプレッド、取引高の分布など）をうまく捉えていることを示しました。 機械学習/オルタナデータ(6件) [座長] 中川 慧（野村アセットマネジメント株式会社） (16) 密度比マッチングと勾配コミュニケーションによる異質性を伴う連合学習 井口亮, 加藤真大, 貝淵響(みずほ第一フィナンシャルテクノロジー), 野田俊也, 今泉允聡(東京大学) データ分布の異質性を持つクライアント間での分散学習問題を考慮し、従来の連合学習がこの異質性に弱いという問題点に対処するため、密度比推定と勾配通信学習に基づく新しい方法を提案しています。この研究ではデータの異質性を考慮した上で、効果的な学習が可能な新しい方法を提案している点が特徴です。密度比マッチングによりデータ分布の違いを補正し、勾配通信学習を用いてクライアント間でモデルの勾配情報のみを共有することにより、データのプライバシーを保護しつつ異質性のあるデータから効率的に学習する方法です。有効性の検証は、複数のUCIデータセットとベンチマークデータセットを用いた実験により行われ、提案手法が従来の連合学習手法よりも高い精度を達成していることが示されました。 (17) 二重PU学習による潜在的顧客の特定 馬場健太郎, 加藤真大, 今井岳(みずほ第一フィナンシャルテクノロジー) 本研究では、正例データとラベルなしデータのみを用いた二値分類器の学習、すなわちPU学習（positive and unlabeled dataからの学習）を、ターゲットマーケティングにおける潜在的顧客の特定に応用する新たな手法を提案しています。潜在的顧客にマーケティングの焦点を当てることで、より効率的なマーケティングを実現することを目指しています。既存の方法と比較して、特にロイヤルティが低い一方興味を持ちうる顧客層に焦点を当てることで、マーケティングの効率化と精度の向上を図っています。二重PU学習アルゴリズムは、一段階の最適化によって構成されていますが、目的関数にはPU学習アルゴリズムの損失を二つ含んでいます。これにより、正例データとラベルなしデータのみを用いて、潜在的顧客を正確に識別する分類器を学習することが可能になります。 (18) ベイジアン予測統合に基づくポートフォリオ選択 加藤真大, 貝淵響(みずほ第一フィナンシャルテクノロジー) 従来のポートフォリオ最適化手法は、資産リターンの分布に関する情報を必要としますが、そのような情報は通常、投資家にとって未知です。本研究では、ベイジアン予測統合を用いて複数の資産リターン予測モデルの予測を組み合わせ、金融市場の不確実性に対応した資産分布情報の予測を可能にする手法を提案しています。本研究では、ベイジアン予測統合（BPS: Bayesian Predictive Synthesis）を用いています。BPSは、複数の予測を統合するベイジアンモデルであり、動的線形モデルを利用して時系列予測に適用されます。これにより、各資産リターンに対する予測分布を得ることができ、それを基に平均分散ポートフォリオや分位点に基づくポートフォリオなど、様々なポートフォリオを構築することが可能です。 (19) 滞在人口データを用いた取引先企業のリース需要予測 加藤塁(三井住友ファイナンス＆リース株式会社), 宮川大介(早稲田大学), 柳岡優希(株式会社東京商工リサーチ), 雪本真治(三井住友ファイナンス＆リース株式会社) GPS位置情報データを用いて製造業の企業の主要な工場での滞在人口の変動を計測し、その企業の取引先におけるリース需要を予測するモデルの構築です。三井住友ファイナンス＆リース株式会社のリース契約データを使用しており、新型コロナウイルス感染症の影響を除いた時期には、滞在人口データがリース需要予測に貢献することが確認されました。高精度で高頻度な滞在人口データ（オルタナティブデータ）と、企業間の取引関係データを組み合わせて、取引先企業のリース需要を予測する点にあります。特に、新型コロナウイルス感染症の拡大という外部ショックの影響を受ける中でも、滞在人口データを活用することで、企業活動の変化を捉え、リース需要の予測精度を向上させています。GPSデータの補正手法も重要であり、長期的な滞在人口の変動をより正確に反映させるために、住宅街地域のGPSデータを用いた補正が施されています。有効性は、三井住友ファイナンス＆リース株式会社のリース契約データを用いて検証されました。複数の予測モデルを構築し、トレーニングデータの期間を変えながら予測精度の検証を行い、滞在人口データを利用した場合と利用しない場合での精度の比較を通じて、滞在人口データの有効性が確認されています。 (20) Pricing Implication of Centrality in an OTC derivative Market: An Empirical Analysis Using Transaction-Level CDS Data Daisuke Miyakawa(Waseda University), Kohei Maehashi, Kana Sasamoto(Bank of Japan) どんなもの？クレジットデフォルトスワップ（CDS）市場で売り手と買い手の相対的な中心性がCDSの価格にどのように影響を与えるかを、トランザクションレベルのデータを用い実証的に分析しています。市場の信用リスクが高い状況や取引関係の深さが中心性による価格プレミアムにどう影響するかを探求しています。CDS価格に影響を与える様々な要因（エンティティリスク、カウンターパーティリスク、ノーショナル、満期など）をコントロールしつつ、検証を進めています。中心性が高い売り手からのCDSがより高い価格で取引される傾向があること、そしてこの中心性プレミアムが信用リスクの高い市場でより顕著になり、さらに過去にショートポジションを持っていた買い手がそのポジションを解消しようとする場合に増加することを明らかにしました。 (21) オルタナティブデータを用いたREITのパフォーマンス予測 中北誠(理化学研究所), 星野崇宏(慶應義塾大学, 理化学研究所) オルタナティブデータであるスマートフォンと輸送トラックの位置情報を用いて、REIT（不動産投資信託）のパフォーマンスを予測しています。リアルタイムの人流や物流データを活用し、不動産市場の動向をより正確かつタイムリーに把握することを目指しています。REITのポートフォリオに含まれる施設への滞在人口（人流）と輸送トラックの滞在台数（物流）を説明変数として、線形回帰モデルを含む複数の機械学習モデルを用いてREITの株価を予測する点にあります。特に、スマートフォンとトラックの位置情報を1km四方のメッシュに分割し、そのデータを基に予測モデルを構築しています。本研究では、2020年1月から2021年11月までの23か月間のREITパフォーマンスを予測し、その予測精度を比較しました。予測には、2019年のデータを学習期間として使用し、線形モデルをベースラインとして、オルタナティブデータを使用したモデルとの予測精度の違いを評価しました。 所感 ご覧いただいた通り、引き続きテキスト情報に関する研究が多くありました。もともと、自然言語処理の研究は多かったのですが、さらに増えてきた印象です。オルタナティブデータの話も今回は興味深いものがいくつかありました。 お読みいただきまして、ありがとうございました！