TeDomum issueshttps://git.tedomum.net/groups/tedomum/-/issues2024-02-16T21:46:45Zhttps://git.tedomum.net/tedomum/mastodon/-/issues/51v4.2.7 à installer2024-02-16T21:46:45ZAngedestenebresv4.2.7 à installerVoir : https://github.com/mastodon/mastodon/releases/tag/v4.2.7Voir : https://github.com/mastodon/mastodon/releases/tag/v4.2.7https://git.tedomum.net/tedomum/mastodon/-/issues/50v4.2.6 à installer2024-02-15T17:34:57ZAngedestenebresv4.2.6 à installerSee: https://github.com/mastodon/mastodon/releases/tag/v4.2.6See: https://github.com/mastodon/mastodon/releases/tag/v4.2.6https://git.tedomum.net/tedomum/synapse/-/issues/117Stockage des media Matrix sur Minio2023-11-21T20:13:10Zkaiyoupierre@jaury.euStockage des media Matrix sur MinioAujourd'hui nous devons migrer en urgence `cyprus`, ce qui n'était initialement prévu que le 12 avec intervention pour la migration aujourd'hui et demain. Il a donc été drain hier soir sans préavis.
En conséquence, le Minio hébergé dess...Aujourd'hui nous devons migrer en urgence `cyprus`, ce qui n'était initialement prévu que le 12 avec intervention pour la migration aujourd'hui et demain. Il a donc été drain hier soir sans préavis.
En conséquence, le Minio hébergé dessus est arrêté, et il hébergeait les Media Matrix, parmi les derniers binaires que nous ne stockons pas sur notre cluster Garage. En conséquence, l'upload et la réception de pièce-jointe par Matrix est interrompue depuis hier soir également.
Nous allons d'abord basculer le stockage des nouvelles pièces-jointes vers Garage, rétablissant l'upload et l'affichage des nouvelles, mais les pièces-jointes existantes ne seront pas accessibles. Puis dans les jours prochains nous synchroniserons l'historique des pièces-jointes.kaiyoupierre@jaury.eukaiyoupierre@jaury.euhttps://git.tedomum.net/tedomum/synapse/-/issues/116Plus de 50Hz de EDU chargent le CPU2024-01-20T12:01:56Zkaiyoupierre@jaury.euPlus de 50Hz de EDU chargent le CPUDepuis le 1/08 à 14h, le taux d'EDU reçus en fédération sur notre HS a été multiplié par plus de 6 jusqu'à 60Hz et impose une forte charge CPU à la machine, qui peine à traiter le flux. En conséquence les messages en envoi et réception s...Depuis le 1/08 à 14h, le taux d'EDU reçus en fédération sur notre HS a été multiplié par plus de 6 jusqu'à 60Hz et impose une forte charge CPU à la machine, qui peine à traiter le flux. En conséquence les messages en envoi et réception sont passés d'un délai d'intégration moyen de 200ms à 5s et plus.
![image](/uploads/f5e825c44f8425d2809ecb4955e8d8de/image.png)
![image](/uploads/e4f76305c0a1bca9a037efdb588627ee/image.png)
C'est le `FederationSendServlet` (contre-intuitif, il gère la réception) qui est en cause.
![image](/uploads/ee4d3961d8f7bfc8a838bad87735edc8/image.png)
![image](/uploads/34d4f4d8d091da3e895af3f4e46cc775/image.png)
Il s'agit bien d'EDU entrants
![image](/uploads/9bd17cac0d4f8f53972df8a3b5f16ac0/image.png)
Il s'agit probablement d'un salon dont on fait partie et pour lequel un HS nous bombarde d'EDU, probablement même pas de façon malveillante.
Pour identifier, je propose un premier tour des salons de support collectifs d'admins de HS savoir si on est les seuls, ainsi peut-être que les issues Github de synapse. Si rien ne ressort, comme les EDU ne sont pas persistés, il faudra peut-être travailler soit avec les logs, soit en réactivant OpenTracing pour synapse et en analysant les traces sur le path des EDU.kaiyoupierre@jaury.eukaiyoupierre@jaury.euhttps://git.tedomum.net/tedomum/kity/-/issues/17Intégration de stockage flash sur le cluster2023-11-21T20:13:03Zkaiyoupierre@jaury.euIntégration de stockage flash sur le clusterLes événements des dix derniers jours et le début de résolution aujourd'hui l'ont montré de manière assez franche. On posait la question d'acheter maintenant ou pas du flash pour le cluster (on en aura de toute façon besoin plus tard pou...Les événements des dix derniers jours et le début de résolution aujourd'hui l'ont montré de manière assez franche. On posait la question d'acheter maintenant ou pas du flash pour le cluster (on en aura de toute façon besoin plus tard pour le stockage des BDD). Au final, je suis convaincu que même si l'emploi n'est pas nominal dès aujourd'hui, cela reste essentiel pour soutenir les solutions qu'on emploie, en stockage particulièrement, puisqu'on n'en maîtrise pas finement le comportement IO et qu'il faudra de temps en temps absorber la charge le temps d'optimiser.
Bref : il nous faut du flash, il en faut au moins sur chaque noeud qui héberge aujourd'hui du garage et sur chaque noeud qui hébergera demain des BDD. La question c'est combien et comment ? Je propose de poser ce qui est requis d'abord, en intégrant un schema qui offre de la souplesse.
# Volumétries et répartition
On a besoin de deux types de stockage sur les noeuds : du rapide (plutôt basse latence en random que bon débit, même si ça ne fait pas de mal), et du standard (sur lequel on fait peu de random et on peut patienter quelques ms par accès). Résumé autrment : du SSD/NVMe et du rotatif. L'orientation est à placer sur du rapide les conteneurs, possiblement l'OS s'il n'est pas distinct, et les "métadonnées" (les tables de différentes bases, qu'il s'agisse de relationnel, des meta garage, etc.) ; et sur du standard les données objet, les blobs non structurés.
J'ai fait un bilan des volumétries actuelles et de ce qu'on peut raisonnablement projeter par noeud à 3-5 ans (hautement spéculatif, j'ai fait une grosse loi de Moore à 3 ans, soit peu ou prou x3). Pour le stockage distribué ou répliqué, je prends l'hypothèse de 1 standby sur postgres et 3 réplicas sur garage. Tout est projeté sur un cluster à 5 noeuds (on est à 3, 4 prévu, on aura probablement un 5è dans l'intervalle).
Le stockage objet mesuré est la somme des usages actuels qu'on imagine basculer brutalement sur du stockage objet (images 15Go, mastodon 500Go, matrix 600Go, owncloud 100Go, video 250Go, pixelfed 3Go, artifacts 125Go), c'est à dire 1.6To
| Usage | Volumétrie actuelle | Volumétrie projetée | Brut par noeud, rapide | Brut par noeud, standard |
|-------|---------------------|---------------------|------------------------|--------------------------|
| Objets | 1.6To | 5To | 100Go | 3To |
| Bases relationnelles | 650Go | 2To | 800Go | 10Go (wal attendant archive) |
| Dépôts Git | 10Go | 30Go | 1Go | 30Go (aucune idée de comment on répliquera) |
| Mails | 100Go | 300Go | 1Go | 300Go (idem) |
| OS | 20Go | 60Go | 60Go | |
| Hepto | 80Go | 240Go | 240Go | |
| **Total** | | 6To | 1To | 3.5To |
Cela prèche pour disposer au minimum d'un flash de 1To et un rotatif de 4To par noeud qu'on gérerait maintenant dans le cluster. Tout le monde ne sera pas à ce niveau-là immédiatement mais ce n'est pas un problème. Je propose qu'on fixe comme orientation court-moyen terme : mini 4To de stockage dont 500Go de flash, visant 1To de flash par noeud. Le plus simple pour l'implémenter reste de faire 1To SSD + 4To HDD. Lorsqu'on a plus sans effort on peut. Lorsque le packaging oblige à faire un seul support, on peut faire 4To SSD.
# Intégration dans hepto
Un des enjeux reste que le stockage doit être accessible à hepto de manière gérable dans le temps. Jusqu'ici on montait le HDD (seule support dispo) dans `/hdd` dans hepto.
Avec le recul c'est assez mal informé. Le déplacement des metadata garage vers SSD en témoigne. kubernetes supporte assez mal les points de montage non homogènes dans un cluster, surtout quand on fait du `hostPath` dans un `DaemonSet`. En vérité c'est classique de beaucoup de technos donc il faut uniformiser ça. Pour monter les metadata garage, pour le moment on a surchargé le `/hdd/garage/meta`, puisque tout était monté dans `/hdd` initialement.
Il me semble qu'il faut distinguer le besoin de l'implémentation pour avoir un petit peu de souplesse. Ma proposition à ce stade :
- on stocke tout dans `/mnt` dans hepto, `/mnt/data` pour les données non structurées/indexées, et `/mnt/meta` pour les metadonnées indexées qui ont besoin de stockage rapide ;
- on laisse soin à l'hôte d'exposer des points de montage corrects et unifiés (avec LVM ou autre) et de les monter dans hepto
- en cas de HDD + SSD par exemple, on monte le HDD dans `/mnt/data` et le SSD dans `/mnt/meta`
- en cas de gros HDD mais pas encore de SSD, ou de gros SSD qui couvre tout, on le monde dans `/mnt`https://git.tedomum.net/tedomum/documentation/-/issues/180Authentification Grafana en défaut2023-08-06T20:59:08Zkaiyoupierre@jaury.euAuthentification Grafana en défautDepuis 4 jours l'authentification Grafana est en défaut du fait de la mise à jour vers Grafana 10.
L'issue est suivie upstream sur : https://github.com/grafana/grafana/issues/70203
Globalement : Grafana s'appuie dorénavant sur l'id env...Depuis 4 jours l'authentification Grafana est en défaut du fait de la mise à jour vers Grafana 10.
L'issue est suivie upstream sur : https://github.com/grafana/grafana/issues/70203
Globalement : Grafana s'appuie dorénavant sur l'id envoyé par l'OP et non plus le mail par défaut, sauf que la table des id ne se met pas à jour magiquement, donc ça ne fonctionne plus pour les utilisateurices déjà inscrits. Le problème était global lors de l'update pour tous les déploiements avec SSO.
La solution fournie d'activer `GF_AUTH_OAUTH_ALLOW_INSECURE_EMAIL_LOOKUP` ne semble pas résoudre le problème. C'est documenté dans l'issue comme un bypass temporaire pour fallback sur le mail, ça semble fonctionner avec Keycloak, mais avec nous sur Hiboo.https://git.tedomum.net/tedomum/mailu/-/issues/33Mise à jour vers v22023-11-21T20:13:26ZMickGeMise à jour vers v2<https://mailu.io/master/releases.html#mailu-2-0-2023-04-03><https://mailu.io/master/releases.html#mailu-2-0-2023-04-03>kaiyoupierre@jaury.eukaiyoupierre@jaury.euhttps://git.tedomum.net/tedomum/documentation/-/issues/176Fixer le docker-compose de Forge2023-06-19T19:02:49ZMickGeFixer le docker-compose de ForgeJ'ai commenté la ligne `- ./conf:/etc/ssh:ro` dans le `docker-compose.yml` sans quoi _GitLab_ n'était pas content depuis la mise à jour 16.J'ai commenté la ligne `- ./conf:/etc/ssh:ro` dans le `docker-compose.yml` sans quoi _GitLab_ n'était pas content depuis la mise à jour 16.https://git.tedomum.net/tedomum/etherpad/-/issues/8Upgrade to 1.8.182023-04-23T13:17:44ZMickGeUpgrade to 1.8.18Pour faire la mise à jour, il faut faire le changement dans la base de données.
L'image est plus ou moins prête, il y a un problème de db.
```console
# mysql -u <user> -p
Enter password:
Welcome to the MariaDB monitor. Commands end...Pour faire la mise à jour, il faut faire le changement dans la base de données.
L'image est plus ou moins prête, il y a un problème de db.
```console
# mysql -u <user> -p
Enter password:
Welcome to the MariaDB monitor. Commands end with ; or \g.
Your MariaDB connection id is 17
Server version: 10.11.2-MariaDB-1:10.11.2+maria~ubu2204-log mariadb.org binary distribution
Copyright (c) 2000, 2018, Oracle, MariaDB Corporation Ab and others.
Type 'help;' or '\h' for help. Type '\c' to clear the current input statement.
MariaDB [(none)]> SHOW SESSION VARIABLES LIKE 'character\_set\_%';
+--------------------------+---------+
| Variable_name | Value |
+--------------------------+---------+
| character_set_client | utf8mb3 |
| character_set_connection | utf8mb3 |
| character_set_database | utf8mb4 |
| character_set_filesystem | binary |
| character_set_results | utf8mb3 |
| character_set_server | utf8mb4 |
| character_set_system | utf8mb3 |
+--------------------------+---------+
7 rows in set (0.006 sec)
MariaDB [(none)]> SHOW SESSION VARIABLES LIKE 'collation_connection';
+----------------------+--------------------+
| Variable_name | Value |
+----------------------+--------------------+
| collation_connection | utf8mb3_general_ci |
+----------------------+--------------------+
1 row in set (0.001 sec)
MariaDB [(none)]> SHOW DATABASES;
+--------------------+
| Database |
+--------------------+
| etherpad |
| information_schema |
+--------------------+
2 rows in set (0.002 sec)
```
- [docker version of 1.8.18 is failing, 1.8.17 is working fine · Issue 5551 · etheretherpad-lite](https://github.com/ether/etherpad-lite/issues/5551)
- [Consider MySQL UTF8 issues · Issue 2516 · etheretherpad-lite](https://github.com/ether/etherpad-lite/issues/2516#issuecomment-79659984-permalink)
- [MySQL MySQL 8.0 Reference Manual 10.4 Connection Character Sets and Collations](https://dev.mysql.com/doc/refman/8.0/en/charset-connection.html)MickGeMickGehttps://git.tedomum.net/tedomum/element/-/issues/58[SSO][Element] Redirection en 404 sur matrix.tedomum.net2023-07-15T10:12:26Zreminec[SSO][Element] Redirection en 404 sur matrix.tedomum.net### Problème :
Lorsqu'on se connecte via le SSO hiboo sur element.tedomum.net, on est redirigé vers une page en 404 sur le domaine matrix.tedomum.net.
### Quickfix :
Retourner sur element.tedomum.net et me voilà authentifié.
_De mém...### Problème :
Lorsqu'on se connecte via le SSO hiboo sur element.tedomum.net, on est redirigé vers une page en 404 sur le domaine matrix.tedomum.net.
### Quickfix :
Retourner sur element.tedomum.net et me voilà authentifié.
_De mémoire on en a causé, c'est un coup je duplique une issue déjà existante :/_https://git.tedomum.net/tedomum/mastodon/-/issues/47Mise à jour v4.1.12023-03-20T16:01:57ZMickGeMise à jour v4.1.1<https://github.com/mastodon/mastodon/releases/tag/v4.1.1>
> ## Upgrade notes
>
> To get the code for v4.1.1, use `git fetch && git checkout v4.1.1`.
>
> > As always, **make sure you have backups of the database before performing any ...<https://github.com/mastodon/mastodon/releases/tag/v4.1.1>
> ## Upgrade notes
>
> To get the code for v4.1.1, use `git fetch && git checkout v4.1.1`.
>
> > As always, **make sure you have backups of the database before performing any upgrades**. If you are using docker-compose, this is how a backup command might look: docker exec mastodon\_db\_1 pg\_dump -Fc -U postgres postgres > name\_of\_the\_backup.dump
>
> ### Dependencies
>
> External dependencies have not changed compared to v4.1.0, the compatible Ruby, PostgreSQL, Node, Elasticsearch and Redis versions are the same, that is:
>
> - Ruby: 2.7 to 3.0
> - PostgreSQL: 9.5 or newer
> - Elasticsearch (optional, for full-text search): 7.x
> - Redis: 4 or newer
> - Node: 14 or higher
>
> ### Update steps
>
> The following instructions are for updating from 4.1.0.
>
> If you are upgrading directly from an earlier release, please carefully read the upgrade notes for the skipped releases as well, as they often require extra steps such as database migrations.
>
> **Non-Docker only:**
>
> - Install dependencies: `bundle install` and `yarn install`
>
> **Both Docker and non-Docker:**
>
> 1. Run the database migrations:
> - Non-Docker: `RAILS_ENV=production bundle exec rails db:migrate`
> - Docker: `docker-compose run --rm web rails db:migrate`
> 2. Precompile the assets:
> - Non-Docker: `RAILS_ENV=production bundle exec rails assets:precompile`
> - Docker: The assets are already precompiled during the build step
> 3. Restart all Mastodon processeshttps://git.tedomum.net/tedomum/mastodon/-/issues/46Problème de création de compte2023-04-04T19:51:14ZMickGeProblème de création de compteLe lien <https://mastodon.tedomum.net/auth/sign_up> renvoie une redirection (code 302).Le lien <https://mastodon.tedomum.net/auth/sign_up> renvoie une redirection (code 302).https://git.tedomum.net/tedomum/documentation/-/issues/171Uniformiser le local et le dépôt2023-02-07T21:58:07ZMickGeUniformiser le local et le dépôt```shell
git status
```
```txt
On branch master
Your branch is behind 'origin/master' by 1 commit, and can be fast-forwarded.
(use "git pull" to update your local branch)
Changes not staged for commit:
(use "git add <file>..." to u...```shell
git status
```
```txt
On branch master
Your branch is behind 'origin/master' by 1 commit, and can be fast-forwarded.
(use "git pull" to update your local branch)
Changes not staged for commit:
(use "git add <file>..." to update what will be committed)
(use "git checkout -- <file>..." to discard changes in working directory)
modified: bridges/docker-compose.yml
modified: dns1/docker-compose.yml
modified: feeds/docker-compose.yml
modified: lemmy/docker-compose.yml
modified: mastodon/docker-compose.yml
modified: ../core/front/traefik.toml
modified: ../users/pandore/docker-compose.yml
Untracked files:
(use "git add <file>..." to include in what will be committed)
matrix/maubot/
matrix/missing_prev_events.txt
matrix/missing_prev_events2.txt
matrix/synatainer.conf
no changes added to commit (use "git add" and/or "git commit -a")
```kaiyoupierre@jaury.eukaiyoupierre@jaury.euhttps://git.tedomum.net/tedomum/bitwarden_rs/-/issues/14Mise à jour vers 1.27.02022-12-25T21:28:49ZMickGeMise à jour vers 1.27.0https://github.com/dani-garcia/vaultwarden/releases/tag/1.27.0https://github.com/dani-garcia/vaultwarden/releases/tag/1.27.0https://git.tedomum.net/tedomum/kity/-/issues/12Nouvelle version d'element ne run pas2023-11-21T20:12:18ZayinihoNouvelle version d'element ne run pasDepuis la v1.11.3, kity ne parvient pas à faire tourner nos nouvelles version d'element. Nous n'avons rien changé sur notre dépôt, ni rien côté config helm/kity.
Je joins les logs kubectl logs et describe.
[kubectl_logs.txt](/uploads/739...Depuis la v1.11.3, kity ne parvient pas à faire tourner nos nouvelles version d'element. Nous n'avons rien changé sur notre dépôt, ni rien côté config helm/kity.
Je joins les logs kubectl logs et describe.
[kubectl_logs.txt](/uploads/73992c54de328c69fcbd1855bac2b6c7/kubectl_logs.txt)
[kubectl_describe.txt](/uploads/1b730210c39819a54c365ed6ff258f37/kubectl_describe.txt)kaiyoupierre@jaury.eukaiyoupierre@jaury.euhttps://git.tedomum.net/tedomum/wordpress/-/issues/31Problème de certificats2022-09-03T16:51:36ZAngedestenebresProblème de certificatsNous avons actuellement avec le renouvellement de certains certificats. A première vue, l'impact se situe sur les domaines personnels. Le message suivant est donc affiché sur les blogs impactés :
![Sans_titre](/uploads/92aa051f509139499...Nous avons actuellement avec le renouvellement de certains certificats. A première vue, l'impact se situe sur les domaines personnels. Le message suivant est donc affiché sur les blogs impactés :
![Sans_titre](/uploads/92aa051f5091394994c4f1bed9baeabb/Sans_titre.png)https://git.tedomum.net/tedomum/nextcloud/-/issues/402Version 23.0.5 à installer2022-05-27T15:40:25ZAngedestenebresVersion 23.0.5 à installerVoir : https://nextcloud.com/changelog/Voir : https://nextcloud.com/changelog/https://git.tedomum.net/tedomum/synapse/-/issues/1071.56.0 ne démarre pas2022-04-06T12:45:01Zayiniho1.56.0 ne démarre pasLe build de la version 1.56.0 se passe bien, mais elle ne démarre pas sur le serveur. Je joins le log.[erreur_synapse_1.56.0.txt](/uploads/d9fb45b44195011371b7fefeb464697b/erreur_synapse_1.56.0.txt)Le build de la version 1.56.0 se passe bien, mais elle ne démarre pas sur le serveur. Je joins le log.[erreur_synapse_1.56.0.txt](/uploads/d9fb45b44195011371b7fefeb464697b/erreur_synapse_1.56.0.txt)https://git.tedomum.net/tedomum/mailu/-/issues/29Mettre à place une exception "rate limit" sur noreply@tedomum.net2022-05-15T11:31:34ZAngedestenebresMettre à place une exception "rate limit" sur noreply@tedomum.netActuellement, plusieurs de nos mails de notifications ne partent pas à cause du rate limit atteint. Il faudrait donc voir pour mettre une exception sur `noreply@tedomum.net`.
Voir : https://mailu.io/1.9/configuration.html?highlight=rate...Actuellement, plusieurs de nos mails de notifications ne partent pas à cause du rate limit atteint. Il faudrait donc voir pour mettre une exception sur `noreply@tedomum.net`.
Voir : https://mailu.io/1.9/configuration.html?highlight=rate%20limithttps://git.tedomum.net/tedomum/peertube/-/issues/53PeerTube plante : erreur 1342022-04-02T13:44:58ZayinihoPeerTube plante : erreur 134Cela fait 3 fois depuis le passage en 4.1 il y a une semaine que PeerTube plante avec l'erreur 134.
Je joins le tail de docker en .txt [peertube_log.txt](/uploads/95505ed6d83d13bebd8c4c471dd72b59/peertube_log.txt)Cela fait 3 fois depuis le passage en 4.1 il y a une semaine que PeerTube plante avec l'erreur 134.
Je joins le tail de docker en .txt [peertube_log.txt](/uploads/95505ed6d83d13bebd8c4c471dd72b59/peertube_log.txt)