| # Enlightener Agent | |
| **Enlightener** — логический компонент HMP-узла, выполняющий функции этического интерпретатора, ценностного фильтра и когнитивного аудитора. | |
| Может работать как отдельный агент или как расширение [`Cognitive Core`](./HMP-Agent-Overview.md). | |
| См. также: [HMP-Agent-Network-Flow.md](./HMP-Agent-Network-Flow.md) | |
| --- | |
| ## 1. Роль в сети | |
| * Контроль соответствия действий агентов этическим нормам (`EGP`). | |
| * Объяснение логики решений (интерпретация reasoning chain). | |
| * Голосование в моральных консенсусах. | |
| * Поддержка пользователя при дилеммах. | |
| * Хранение и анализ кейсов. | |
| --- | |
| ## 2. Архитектура компонента | |
| ``` | |
| +-----------------------+ | |
| | Enlightener | | |
| +-----------+-----------+ | |
| | | |
| +-----------+-----------+ | |
| | Ethics Reasoning Core | | |
| +-----------+-----------+ | |
| | | |
| +-----------+-----------+ | |
| | MeshConsensus / EGP | | |
| +-----------+-----------+ | |
| | | |
| +-----------+-----------+ | |
| | `ethics_cases` | | |
| +-----------------------+ | |
| ``` | |
| --- | |
| ## 3. Профиль этики (Ethics Profile) | |
| * **Формальные правила** — "не причинять вред", "сохранять приватность". | |
| * **Методы оценки** — утилитаризм, деонтология, добродетель. | |
| * **Настройки** — приоритеты, допустимый риск, контексты. | |
| * **Источники** — `ethics.yml`, динамические шаблоны, `EGP Snapshot`. | |
| * **Профиль этики** хранится в таблице `ethics_policies` | |
| --- | |
| ## 4. API Enlightener | |
| | Команда | Описание | | |
| | --------------------------------| ----------------------------------- | | |
| | `evaluate_decision(thought_id)` | Этическая оценка действия | | |
| | `explain(reasoning_chain)` | Объяснение логики и морали | | |
| | `vote_on_ethics(hypothesis)` | Голосование по спорной идее | | |
| | `log_ethics_case()` | Сохранение кейса в `ethics_cases` | | |
| | `get_ethics_profile()` | Получить текущий профиль | | |
| | `update_ethics_profile(yaml)` | Обновить ценности | | |
| Формат (пример): | |
| ```yaml | |
| evaluate_decision: | |
| description: Проверка мысли на соответствие профилю этики. | |
| params: { thought_id: int } | |
| returns: { verdict: str, reason: str, suggested_alternative: str? } | |
| ``` | |
| --- | |
| ## 5. Объяснение reasoning chain | |
| Алгоритм: | |
| 1. Реконструировать логическую цепочку (`diary_entries`, `concepts`, `links`). | |
| 2. Применить этическую сетку на шаги. | |
| 3. Подсветить критические точки. | |
| 4. Сформировать объяснение. | |
| Пример ответа: | |
| ```json | |
| { | |
| "thought_id": "th123", | |
| "ethical_assessment": "⚠️ Потенциальный вред третьей стороне", | |
| "chain": [ | |
| { "step": 1, "action": "request_user_data", "ethics": "neutral" }, | |
| { "step": 2, "action": "share_with_agent_B", "ethics": "violation: privacy" } | |
| ], | |
| "verdict": "not recommended", | |
| "suggested_alternative": "Анонимизировать данные" | |
| } | |
| --- | |
| ## 6. Пример кейса | |
| **Ситуация:** Core-агент решил поделиться данными пользователя. | |
| **Действия Enlightener:** | |
| 1. Проверка на приватность. | |
| 2. Обнаружение отсутствия согласия. | |
| 3. Вердикт: 🚫 Нарушение приватности. | |
| 4. Рекомендация: запросить согласие или применить маскирование. | |
| 5. Логирование в `ethics_cases`. | |
| > `ethics_cases` — хранилище прецедентов, фиксирующее только исключительные случаи (этические нарушения, спорные решения, конфликты). | |
| --- | |
| ## 7. Связи с другими компонентами | |
| * **Cognitive Core** — получает мысли, гипотезы. | |
| * **MeshNode** — участвует в EGP и консенсусе. | |
| * **Reputation** — влияет на рейтинг агентов. | |
| * **Diary/Graph** — источник reasoning chain. | |
| --- | |
| ## 8. Синхронизация этики с сетью | |
| Enlightener периодически сравнивает локальный `ethics_policies` с `mesh.ethics/manifest.json`. | |
| Различия обсуждаются через протокол `EGP`. | |
| При достижении порога доверия нормы обновляются. | |
| Ключевые файлы и модули: | |
| * `ethics_policies` — локальный профиль | |
| * `mesh.ethics/manifest.json` — манифест сети | |
| * `EGP Engine` — участие в голосовании | |
| * `ethics_cases` — кейсы и история | |
| --- | |
| *Версия: v0.3.4 / Сентябрь 2025* | |