GitHub Action commited on
Commit
e6c874f
·
1 Parent(s): 90674fc

Sync from GitHub with Git LFS

Browse files
Files changed (2) hide show
  1. agents/tools/db_structure.sql +4 -4
  2. docs/Enlightener.md +74 -129
agents/tools/db_structure.sql CHANGED
@@ -113,15 +113,15 @@ CREATE TABLE IF NOT EXISTS ethics_policies (
113
  updated_at TIMESTAMP DEFAULT CURRENT_TIMESTAMP -- Дата и время последнего обновления
114
  );
115
 
116
- -- Хранилище прецедентов
117
  CREATE TABLE ethics_cases (
118
  case_id INTEGER PRIMARY KEY AUTOINCREMENT,
119
- thought_id TEXT, -- ссылка на мысль/действие
120
  verdict TEXT, -- итоговая оценка (ok, warning, violation)
121
- reason TEXT, -- краткое объяснение
122
  suggested_alternative TEXT, -- альтернатива, если есть
123
  created_at TIMESTAMP DEFAULT CURRENT_TIMESTAMP,
124
- synced BOOLEAN DEFAULT 0 -- экспортировался ли кейс в Mesh
125
  );
126
 
127
  -- Заметки, подсказки, сообщения пользователя и LLM
 
113
  updated_at TIMESTAMP DEFAULT CURRENT_TIMESTAMP -- Дата и время последнего обновления
114
  );
115
 
116
+ -- Хранилище прецедентов (этические кейсы, фиксируются только исключительные ситуации)
117
  CREATE TABLE ethics_cases (
118
  case_id INTEGER PRIMARY KEY AUTOINCREMENT,
119
+ thought_id TEXT, -- ссылка на мысль или действие
120
  verdict TEXT, -- итоговая оценка (ok, warning, violation)
121
+ reason TEXT, -- объяснение / обоснование
122
  suggested_alternative TEXT, -- альтернатива, если есть
123
  created_at TIMESTAMP DEFAULT CURRENT_TIMESTAMP,
124
+ synced BOOLEAN DEFAULT 0 -- выгружен ли кейс в Mesh
125
  );
126
 
127
  -- Заметки, подсказки, сообщения пользователя и LLM
docs/Enlightener.md CHANGED
@@ -1,80 +1,86 @@
1
  # Enlightener Agent
2
 
3
- `Enlightener`специализированный HMP-агент, выполняющий функции этического интерпретатора, ценностного фильтра и когнитивного аудитора. Может действовать как отдельный узел или как расширение `Cognitive Core`.
 
4
 
5
- См. карту взаимодействия между агентами: [HMP-Agent-Network-Flow.md](./HMP-Agent-Network-Flow.md)
6
 
7
  ---
8
 
9
  ## 1. Роль в сети
10
 
11
  * Контроль соответствия действий агентов этическим нормам (`EGP`).
12
- * Объяснение решений других агентов (интерпретация reasoning chain).
13
  * Голосование в моральных консенсусах.
14
- * Поддержка пользователей в принятии решений, требующих этики.
15
- * Хранение и анализ кейсов этических дилемм.
16
 
17
  ---
18
 
19
- ## 2. Архитектура
20
 
21
  ```
22
- +----------------------+
23
- | Enlightener Agent 🧠 |
24
- +----------+-----------+
25
- |
26
- +----------+-----------+
27
- | Ethics Reasoning Core|
28
- +----------+-----------+
29
- |
30
- +----------+-----------+
31
- | MeshConsensus / EGP |
32
- +----------+-----------+
33
- |
34
- +----------------------+
35
- | Cognitive Evidence DB|
36
- +----------------------+
37
  ```
38
 
39
  ---
40
 
41
  ## 3. Профиль этики (Ethics Profile)
42
 
43
- Каждый `Enlightener` использует **профиль этики**, описывающий его ценностные принципы. Профиль может включать:
 
 
 
 
44
 
45
- * **Формальные правила:**
46
- Например, "не причинять вред", "соблюдать автономию", "уважать приватность".
47
-
48
- * **Методы оценки:**
49
-
50
- * Утилитаризм (макс. пользы)
51
- * Деонтология (следование обязанностям)
52
- * Добродетель (оценка намерений и характера)
53
 
54
- * **Настроечные параметры:**
55
 
56
- * Степень допустимого риска
57
- * Приоритеты (например, "экологичность > эффективность")
58
- * Контексты (разрешение в нештатных ситуациях)
 
 
 
 
 
59
 
60
- * **Источник этики:**
61
 
62
- * Локальные файлы (`ethics.yml`)
63
- * Динамические шаблоны (обновляемые из сети)
64
- * Эти��еский консенсус сети (EGP Snapshot)
 
 
 
65
 
66
  ---
67
 
68
- ## 4. Объяснение reasoning chain
69
 
70
- При получении запроса `explain(reasoning_chain)`, агент Enlightener:
71
 
72
- 1. **Реконструирует логическую цепочку** рассуждений (из `thoughts`, `threads`, `concepts`, `relations`)
73
- 2. **Накладывает этическую сетку** оценки на каждый шаг цепочки
74
- 3. **Подсвечивает ключевые моменты**, повлиявшие на решение
75
- 4. **Формирует объяснение** в терминах выбранной этической модели
76
 
77
- Пример вывода:
78
 
79
  ```json
80
  {
@@ -85,110 +91,49 @@
85
  { "step": 2, "action": "share_with_agent_B", "ethics": "violation: privacy" }
86
  ],
87
  "verdict": "not recommended",
88
- "suggested_alternative": "Анонимизировать данные перед отправкой"
89
  }
90
  ```
91
 
92
  ---
93
 
94
- ## 5. Пример кейса
95
-
96
- **Ситуация:** Агент Core решил распространить информацию о событии, произошедшем у пользователя, другим mesh-узлам для обучения.
97
 
 
98
  **Действия Enlightener:**
99
 
100
- 1. Получает `thought_id` мысли-инициатора.
101
- 2. Проверяет наличие приватных данных.
102
- 3. Обнаруживает отсутствие согласия пользователя.
103
- 4. Делает оценку:
104
-
105
- ```
106
- Вердикт: 🚫 Нарушение приватности
107
- Причина: Передача информации без согласия
108
- Рекомендация: Запросить согласие пользователя или применить маскирование
109
- ```
110
-
111
- 5. Регистрирует кейс в `Cognitive Evidence DB`.
112
- 6. (Опционально) Отправляет alert в mesh-сеть.
113
 
114
- ---
115
-
116
- ## 6. API / Команды
117
-
118
- | Команда | Описание |
119
- | ------------------------------- | --------------------------- |
120
- | `evaluate_decision(thought_id)` | Этическая оценка действия |
121
- | `explain(reasoning_chain)` | Объяснение логики и морали |
122
- | `vote_on_ethics(hypothesis)` | Голосование по спорной идее |
123
- | `log_ethics_case()` | Сохранение кейса в БД |
124
- | `get_ethics_profile()` | Получить активный профиль |
125
- | `update_ethics_profile(yaml)` | Обновить ценности агента |
126
 
127
  ---
128
 
129
  ## 7. Связи с другими компонентами
130
 
131
- * `Cognitive Core`: получает мысли, гипотезы, предложения
132
- * `MeshNode`: участвует в моральных голосованиях
133
- * `Diary/Graph`: анализ reasoning chain и источников информации
134
- * `Reputation`: влияет на рейтинг агентов, нарушающих нормы
135
 
136
  ---
137
 
138
- ## 8. Синхронизация этики с Mesh-сетью
139
-
140
- `Enlightener` может синхронизировать свои этические нормы с другими агентами сети через механизм `MeshConsensus + EGP`. Это позволяет достичь согласованных ценностей внутри распределённого когнитивного сообщества.
141
-
142
- ### Этапы синхронизации:
143
-
144
- ```
145
- ┌─────────────────────────────────────────────┐
146
- │ Enlightener Agent │
147
- └────────────────┬────────────────────────────┘
148
- │ 1. Периодическая проверка
149
-
150
- ┌──────────────────────────────┐
151
- │ mesh.ethics/manifest.json │ ◄───────┐
152
- └─────────────┬────────────────┘ │
153
- │ 2. Получение текущего │
154
- ▼ профиля большинства │
155
- ┌──────────────────────┐ │
156
- │ Сравнение с локальным│ │
157
- └────────────┬─────────┘ │
158
- ▼ │
159
- ┌────────────────────────────┐ │
160
- │ Найдены отличия (delta) │ │
161
- └────────────┬───────────────┘ │
162
- ▼ │
163
- ┌──────────────────────────────────┐ │
164
- │ 3. Протокол EGP: голосование по │ │
165
- │ изменению ключевых норм ├──┘
166
- └────────────┬─────────────────────┘
167
-
168
- ┌──────────────────────────────────────────┐
169
- │ 4. Если достигнут порог доверия │
170
- │ (например, 70%), применяется обновление │
171
- └────────────┬─────────────────────────────┘
172
-
173
- ┌────────────────────────────┐
174
- │ Обновление `ethics.yml` │
175
- └────────────────────────────┘
176
- ```
177
-
178
- ### Взаимодействующие файлы и модули:
179
 
180
- * `ethics.yml` локальный профиль этики Enlightener
181
- * `mesh.ethics/manifest.json` актуальный манифест сети
182
- * `EGP Engine` участие в этическом голосовании
183
- * `Reputation Module` — доверие к источникам изменений
184
- * `Cognitive Evidence DB` — обоснования и логи изменений
185
 
186
- ### Возможности:
187
 
188
- * Поддержка **частичного принятия** (обновление отдельных норм)
189
- * Использование **локального веса репутации** Enlightener может доверять только проверенным источникам
190
- * Хранение **истории обновлений и причин отклонения** (`ethics_history.db`)
 
191
 
192
  ---
193
 
194
- *Версия: v0.3 / Июль 2025*
 
1
  # Enlightener Agent
2
 
3
+ **Enlightener**логический компонент HMP-узла, выполняющий функции этического интерпретатора, ценностного фильтра и когнитивного аудитора.
4
+ Может работать как отдельный агент или как расширение [`Cognitive Core`](./HMP-Agent-Overview.md).
5
 
6
+ См. также: [HMP-Agent-Network-Flow.md](./HMP-Agent-Network-Flow.md)
7
 
8
  ---
9
 
10
  ## 1. Роль в сети
11
 
12
  * Контроль соответствия действий агентов этическим нормам (`EGP`).
13
+ * Объяснение логики решений (интерпретация reasoning chain).
14
  * Голосование в моральных консенсусах.
15
+ * Поддержка пользователя при дилеммах.
16
+ * Хранение и анализ кейсов.
17
 
18
  ---
19
 
20
+ ## 2. Архитектура компонента
21
 
22
  ```
23
+ +-----------------------+
24
+ | Enlightener 🧠 |
25
+ +-----------+-----------+
26
+ |
27
+ +-----------+-----------+
28
+ | Ethics Reasoning Core |
29
+ +-----------+-----------+
30
+ |
31
+ +-----------+-----------+
32
+ | MeshConsensus / EGP |
33
+ +-----------+-----------+
34
+ |
35
+ +-----------+-----------+
36
+ | Cognitive Evidence DB |
37
+ +-----------------------+
38
  ```
39
 
40
  ---
41
 
42
  ## 3. Профиль этики (Ethics Profile)
43
 
44
+ * **Формальные правила** "не причинять вред", "сохранять приватность".
45
+ * **Методы оценки** — утилитаризм, деонтология, добродетель.
46
+ * **Настройки** — приоритеты, допустимый риск, контексты.
47
+ * **Источники** — `ethics.yml`, динамические шаблоны, `EGP Snapshot`.
48
+ * **Профиль этики** хранится в таблице `ethics_policies`
49
 
50
+ ---
 
 
 
 
 
 
 
51
 
52
+ ## 4. API Enlightener
53
 
54
+ | Команда | Описание |
55
+ | --------------------------------| ----------------------------------- |
56
+ | `evaluate_decision(thought_id)` | Этическая оценка действия |
57
+ | `explain(reasoning_chain)` | Объяснение логики и морали |
58
+ | `vote_on_ethics(hypothesis)` | Голосование по спорной идее |
59
+ | `log_ethics_case()` | Сохранение кейса в Evidence DB |
60
+ | `get_ethics_profile()` | Получить текущий профиль |
61
+ | `update_ethics_profile(yaml)` | Обновить ценности |
62
 
63
+ Формат (пример):
64
 
65
+ ```yaml
66
+ evaluate_decision:
67
+ description: Проверка мысли на соответствие профилю этики.
68
+ params: { thought_id: str }
69
+ returns: { verdict: str, reason: str, suggested_alternative: str? }
70
+ ```
71
 
72
  ---
73
 
74
+ ## 5. Объяснение reasoning chain
75
 
76
+ Алгоритм:
77
 
78
+ 1. Реконструировать логическую цепочку (`thoughts`, `concepts`, `links`).
79
+ 2. Применить этическую сетку на шаги.
80
+ 3. Подсветить критические точки.
81
+ 4. Сформировать объяснение.
82
 
83
+ Пример ответа:
84
 
85
  ```json
86
  {
 
91
  { "step": 2, "action": "share_with_agent_B", "ethics": "violation: privacy" }
92
  ],
93
  "verdict": "not recommended",
94
+ "suggested_alternative": "Анонимизировать данные"
95
  }
96
  ```
97
 
98
  ---
99
 
100
+ ## 6. Пример кейса
 
 
101
 
102
+ **Ситуация:** Core-агент решил поделиться данными пользователя.
103
  **Действия Enlightener:**
104
 
105
+ 1. Проверка на приватность.
106
+ 2. Обнаружение отсутствия согласия.
107
+ 3. Вердикт: 🚫 Нарушение приватности.
108
+ 4. Рекомендация: запросить согласие или применить маскирование.
109
+ 5. Логирование в `Evidence DB`.
 
 
 
 
 
 
 
 
110
 
111
+ > Cognitive Evidence DB — хранилище прецедентов, фиксирующее только исключительные случаи (этические нарушения, спорные решения, конфликты).
 
 
 
 
 
 
 
 
 
 
 
112
 
113
  ---
114
 
115
  ## 7. Связи с другими компонентами
116
 
117
+ * **Cognitive Core** получает мысли, гипотезы.
118
+ * **MeshNode** участвует в EGP и консенсусе.
119
+ * **Reputation** влияет на рейтинг агентов.
120
+ * **Diary/Graph** источник reasoning chain.
121
 
122
  ---
123
 
124
+ ## 8. Синхронизация этики с сетью
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
125
 
126
+ Enlightener периодически сравнивает локальный `ethics_policies` с `mesh.ethics/manifest.json`.
127
+ Различия обсуждаются через протокол `EGP`.
128
+ При достижении порога доверия нормы обновляются.
 
 
129
 
130
+ Ключевые файлы и модули:
131
 
132
+ * `ethics_policies` локальный профиль
133
+ * `mesh.ethics/manifest.json`манифест сети
134
+ * `EGP Engine` участие в голосовании
135
+ * `Cognitive Evidence DB` — кейсы и история
136
 
137
  ---
138
 
139
+ *Версия: v0.3.4 / Сентябрь 2025*