DeepSeekがやっていると噂の蒸留というやつを、ローカルLLMで今すぐやってみる 前編

from langchain_ollama.llms import OllamaLLM

model = OllamaLLM(model="phi4:14b", temperature=0.8)

messages = [
    ("system", """あなたは日本語の常識知識を生成するAIです。"""),
    ("human", """以下の形式で、人間が関与するイベントを10個生成してください。

### ルール
- 各イベントは短い日本語の文にすること (7～15文字程度)
- 主語は "X" にする (例: X が本を読む)
- 日常的にありふれた出来事を考えること
- 可能な限りバリエーションを持たせること

### 例
1. X が朝の散歩をする
2. X がコーヒーを飲む
3. X が雨の日に傘を忘れる
4. X が映画を観る
5. X がスーパーで買い物をする

### 出力
Markdownの-を使った順序なしリスト形式で、新たな10個のイベントを生成してください。
"""),
]
result = model.invoke(messages)
print(result)

- X が電車に乗る
- X がスマホを見る
- X が料理を作る
- X が友達と話す
- X が道を歩く
- X が仕事をする
- X がテレビを観る
- X が音楽を聴く
- X が昼寝をする
- X が日記を書く

import re

result_content = result.content

events = [event.strip() for event in re.split(r'\- ?', result_content) if event.strip()]

results = []

for event in events:
    prompt = f"""
以下のイベントについて、因果関係を持つ推論を生成してください。  

### ルール
- 各関係 (relation) に対応する推論を作成してください。  
- 出力はシンプルで自然な日本語の文章にしてください (10～20文字程度)。  
- 可能な限り現実的な推論を生成してください。  

### 関係の説明
- xEffect: X の行動の結果 (例: 「X が雨の日に傘を忘れる」→「X が濡れる」)
- xWant: X の行動後に X が望むこと (例: 「X がジョギングを始める」→「X は水を飲みたい」)
- xNeed: X の行動をするために必要なこと (例: 「X が料理をする」→「X は食材を用意する必要がある」)
- xIntent: X の行動の意図 (例: 「X が友人と電話する」→「X は近況を知りたい」)
- xReact: X の行動の後の感情反応 (例: 「X が財布をなくす」→「X はパニックになる」)
- HinderedBy: X の行動が妨げられる要因 (例: 「X がランニングする」→「雨が降るとできない」)

HinderedBy以外では主語を明確にしてください。

イベント: {event}

### 出力フォーマット
- xEvent: {event}
- xEffect: xxx
- xWant: xxx
- xNeed: xxx
- xIntent: xxx
- xReact: xxx
- HinderedBy: xxx

出力フォーマットには厳密に従ってください。出力フォーマットにない余計な出力は絶対に含めないようにしてください。
"""
    messages = [
    ("system", """あなたは日本語の常識知識を生成するAIです。"""),
    ("human", prompt),
    ]
    result = model.invoke(messages)
    results.append(result)

- xEvent: X が電車に乗る
- xEffect: X が目的地に着く
- xWant: X は座りたい
- xNeed: X は切符が必要
- xIntent: X は移動したい
- xReact: X は安心する
- HinderedBy: 電車が遅れる
- xEvent: X がスマホを見る
- xEffect: X の目が疲れる
- xWant: X は休憩したい
- xNeed: X はスマホを持つ
- xIntent: X は情報を得たい
- xReact: X は面白いと感じる
...

event_relation_inference = []
for result in results:
    lines = result.split("\n")
    for line in lines:
        if line.startswith('- xEvent: '):
            event = line[len('- xEvent: '):]
        else:
            relation = line.split(': ')[0].split(' ')[1]
            inference = line.split(': ')[1]
            event_relation_inference.append((event, relation, inference))

[('X が電車に乗る', 'xEffect', 'X が目的地に着く'),
 ('X が電車に乗る', 'xWant', 'X は座りたい'),
 ('X が電車に乗る', 'xNeed', 'X は切符が必要'),
 ('X が電車に乗る', 'xIntent', 'X は移動したい'),
 ('X が電車に乗る', 'xReact', 'X は安心する'),
 ('X が電車に乗る', 'HinderedBy', '電車が遅れる'),
 ('X がスマホを見る', 'xEffect', 'X の目が疲れる'),
 ('X がスマホを見る', 'xWant', 'X は休憩したい'),
 ('X がスマホを見る', 'xNeed', 'X はスマホを持つ'),
 ('X がスマホを見る', 'xIntent', 'X は情報を得たい'),
 ('X がスマホを見る', 'xReact', 'X は面白いと感じる'),
...]

filtered_results = []
critic_model = model = OllamaLLM(model="phi4:14b", temperature=0.0, max_tokens=20)

for event, relation, inference in event_relation_inference:
    prompt = f"""
    あなたは日本語の常識知識を生成するAIです。
    以下のイベントと推論が適切かどうかを評価してください。

    ### チェック基準:
    1. **論理的一貫性** - イベントと関係 (relation) に対して適切な推論か
    2. **常識的な妥当性** - 現実世界の知識と矛盾しないか
    3. **情報の具体性** - 推論が単純すぎず、具体的な知識を含んでいるか
    4. **不要な曖昧さがないか** - 「～かもしれない」など過度に曖昧な表現を含まないか
    5. **誤解を招く表現がないか** - 意図しない意味の解釈を誘発しないか

    ### 評価対象:
    イベント: {event}
    関係: {relation}
    推論: {inference}

    適切な場合は "Yes"、不適切な場合は "No" と出力してください。
    """
    messages = [
        ("human", prompt),
    ]
    result = critic_model.invoke(messages)
    if result.content == "Yes":
        filtered_results.append((event, relation, inference))

[('X が電車に乗る', 'xEffect', 'X が目的地に着く'),
 ('X が電車に乗る', 'xWant', 'X は座りたい'),
 ('X が電車に乗る', 'xNeed', 'X は切符が必要'),
 ('X が電車に乗る', 'xIntent', 'X は移動したい'),
 ('X が電車に乗る', 'xReact', 'X は安心する'),
 ('X がスマホを見る', 'xEffect', 'X の目が疲れる'),
 ('X がスマホを見る', 'xNeed', 'X はスマホを持つ'),
 ('X がスマホを見る', 'xIntent', 'X は情報を得たい'),
...]