Update README.md
Browse files
README.md
CHANGED
|
@@ -14,6 +14,6 @@ tags:
|
|
| 14 |
[削除したモジュールがどれか分からないので](https://github.com/segmind/SSD-1B/issues/1)、コサイン類似度を利用して推定しました。
|
| 15 |
Transformer_depthだけ変わっているので（多分）Attention層のパラメータをSDXLとSSD-1B調査しました。
|
| 16 |
2層⇒1層となる場合先頭の層が残ります。
|
| 17 |
-
10層⇒4層となる場合1,2,3,
|
| 18 |
|
| 19 |
※up層の3番目は10層のままですが、コサイン類似度の結果が不可解なものになっていました。とりあえずここは変更されていないと仮定しています。
|
|
|
|
| 14 |
[削除したモジュールがどれか分からないので](https://github.com/segmind/SSD-1B/issues/1)、コサイン類似度を利用して推定しました。
|
| 15 |
Transformer_depthだけ変わっているので（多分）Attention層のパラメータをSDXLとSSD-1B調査しました。
|
| 16 |
2層⇒1層となる場合先頭の層が残ります。
|
| 17 |
+
10層⇒4層となる場合1,2,3,7番目の層が残ります。
|
| 18 |
|
| 19 |
※up層の3番目は10層のままですが、コサイン類似度の結果が不可解なものになっていました。とりあえずここは変更されていないと仮定しています。
|