nev's picture
Add files using upload-large-folder tool
35a56b0 verified
{"tree_metadata": {"('ema', 'info')": {"key_metadata": [{"key": "ema", "key_type": 2}, {"key": "info", "key_type": 2}], "value_metadata": {"value_type": "None", "skip_deserialize": true}}, "('ema', 'b_pre')": {"key_metadata": [{"key": "ema", "key_type": 2}, {"key": "b_pre", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('ema', 'W_enc')": {"key_metadata": [{"key": "ema", "key_type": 2}, {"key": "W_enc", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('ema', 'b_mid')": {"key_metadata": [{"key": "ema", "key_type": 2}, {"key": "b_mid", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('ema', 'W_dec')": {"key_metadata": [{"key": "ema", "key_type": 2}, {"key": "W_dec", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('ema', 'b_post')": {"key_metadata": [{"key": "ema", "key_type": 2}, {"key": "b_post", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('info', 'avg_norm')": {"key_metadata": [{"key": "info", "key_type": 2}, {"key": "avg_norm", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('info', 'feature_means')": {"key_metadata": [{"key": "info", "key_type": 2}, {"key": "feature_means", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('info', 'feature_square_means')": {"key_metadata": [{"key": "info", "key_type": 2}, {"key": "feature_square_means", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('info', 'whitening_matrix')": {"key_metadata": [{"key": "info", "key_type": 2}, {"key": "whitening_matrix", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('info', 'feature_density')": {"key_metadata": [{"key": "info", "key_type": 2}, {"key": "feature_density", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('info', 'activated_in')": {"key_metadata": [{"key": "info", "key_type": 2}, {"key": "activated_in", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('info', 'n_steps')": {"key_metadata": [{"key": "info", "key_type": 2}, {"key": "n_steps", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('info', 'weight_norms', 'W_dec')": {"key_metadata": [{"key": "info", "key_type": 2}, {"key": "weight_norms", "key_type": 2}, {"key": "W_dec", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('info', 'weight_norms', 'W_enc')": {"key_metadata": [{"key": "info", "key_type": 2}, {"key": "weight_norms", "key_type": 2}, {"key": "W_enc", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('info', 'weight_grad_norms', 'W_dec')": {"key_metadata": [{"key": "info", "key_type": 2}, {"key": "weight_grad_norms", "key_type": 2}, {"key": "W_dec", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('info', 'weight_grad_norms', 'W_enc')": {"key_metadata": [{"key": "info", "key_type": 2}, {"key": "weight_grad_norms", "key_type": 2}, {"key": "W_enc", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('info', 'grad_clip_percent')": {"key_metadata": [{"key": "info", "key_type": 2}, {"key": "grad_clip_percent", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('info', 'grad_global_norm')": {"key_metadata": [{"key": "info", "key_type": 2}, {"key": "grad_global_norm", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('optimizer_state', '0')": {"key_metadata": [{"key": "optimizer_state", "key_type": 2}, {"key": "0", "key_type": 1}], "value_metadata": {"value_type": "None", "skip_deserialize": true}}, "('optimizer_state', '1', '0', 'count')": {"key_metadata": [{"key": "optimizer_state", "key_type": 2}, {"key": "1", "key_type": 1}, {"key": "0", "key_type": 1}, {"key": "count", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('optimizer_state', '1', '0', 'mu', 'info')": {"key_metadata": [{"key": "optimizer_state", "key_type": 2}, {"key": "1", "key_type": 1}, {"key": "0", "key_type": 1}, {"key": "mu", "key_type": 2}, {"key": "info", "key_type": 2}], "value_metadata": {"value_type": "None", "skip_deserialize": true}}, "('optimizer_state', '1', '0', 'mu', 'b_pre')": {"key_metadata": [{"key": "optimizer_state", "key_type": 2}, {"key": "1", "key_type": 1}, {"key": "0", "key_type": 1}, {"key": "mu", "key_type": 2}, {"key": "b_pre", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('optimizer_state', '1', '0', 'mu', 'W_enc')": {"key_metadata": [{"key": "optimizer_state", "key_type": 2}, {"key": "1", "key_type": 1}, {"key": "0", "key_type": 1}, {"key": "mu", "key_type": 2}, {"key": "W_enc", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('optimizer_state', '1', '0', 'mu', 'b_mid')": {"key_metadata": [{"key": "optimizer_state", "key_type": 2}, {"key": "1", "key_type": 1}, {"key": "0", "key_type": 1}, {"key": "mu", "key_type": 2}, {"key": "b_mid", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('optimizer_state', '1', '0', 'mu', 'W_dec')": {"key_metadata": [{"key": "optimizer_state", "key_type": 2}, {"key": "1", "key_type": 1}, {"key": "0", "key_type": 1}, {"key": "mu", "key_type": 2}, {"key": "W_dec", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('optimizer_state', '1', '0', 'mu', 'b_post')": {"key_metadata": [{"key": "optimizer_state", "key_type": 2}, {"key": "1", "key_type": 1}, {"key": "0", "key_type": 1}, {"key": "mu", "key_type": 2}, {"key": "b_post", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('optimizer_state', '1', '0', 'nu', 'info')": {"key_metadata": [{"key": "optimizer_state", "key_type": 2}, {"key": "1", "key_type": 1}, {"key": "0", "key_type": 1}, {"key": "nu", "key_type": 2}, {"key": "info", "key_type": 2}], "value_metadata": {"value_type": "None", "skip_deserialize": true}}, "('optimizer_state', '1', '0', 'nu', 'b_pre')": {"key_metadata": [{"key": "optimizer_state", "key_type": 2}, {"key": "1", "key_type": 1}, {"key": "0", "key_type": 1}, {"key": "nu", "key_type": 2}, {"key": "b_pre", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('optimizer_state', '1', '0', 'nu', 'W_enc')": {"key_metadata": [{"key": "optimizer_state", "key_type": 2}, {"key": "1", "key_type": 1}, {"key": "0", "key_type": 1}, {"key": "nu", "key_type": 2}, {"key": "W_enc", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('optimizer_state', '1', '0', 'nu', 'b_mid')": {"key_metadata": [{"key": "optimizer_state", "key_type": 2}, {"key": "1", "key_type": 1}, {"key": "0", "key_type": 1}, {"key": "nu", "key_type": 2}, {"key": "b_mid", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('optimizer_state', '1', '0', 'nu', 'W_dec')": {"key_metadata": [{"key": "optimizer_state", "key_type": 2}, {"key": "1", "key_type": 1}, {"key": "0", "key_type": 1}, {"key": "nu", "key_type": 2}, {"key": "W_dec", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('optimizer_state', '1', '0', 'nu', 'b_post')": {"key_metadata": [{"key": "optimizer_state", "key_type": 2}, {"key": "1", "key_type": 1}, {"key": "0", "key_type": 1}, {"key": "nu", "key_type": 2}, {"key": "b_post", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('optimizer_state', '1', '1', 'count')": {"key_metadata": [{"key": "optimizer_state", "key_type": 2}, {"key": "1", "key_type": 1}, {"key": "1", "key_type": 1}, {"key": "count", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('sae_params', 'info')": {"key_metadata": [{"key": "sae_params", "key_type": 2}, {"key": "info", "key_type": 2}], "value_metadata": {"value_type": "None", "skip_deserialize": true}}, "('sae_params', 'b_pre')": {"key_metadata": [{"key": "sae_params", "key_type": 2}, {"key": "b_pre", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('sae_params', 'W_enc')": {"key_metadata": [{"key": "sae_params", "key_type": 2}, {"key": "W_enc", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('sae_params', 'b_mid')": {"key_metadata": [{"key": "sae_params", "key_type": 2}, {"key": "b_mid", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('sae_params', 'W_dec')": {"key_metadata": [{"key": "sae_params", "key_type": 2}, {"key": "W_dec", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}, "('sae_params', 'b_post')": {"key_metadata": [{"key": "sae_params", "key_type": 2}, {"key": "b_post", "key_type": 2}], "value_metadata": {"value_type": "jax.Array", "skip_deserialize": false}}}, "use_zarr3": false, "store_array_data_equal_to_fill_value": true, "custom_metadata": null}