Valiz : Moteur de recherche open-source - valiz

Compte-rendu de la discussion jabber du 18 octobre 2008

Reivilo — Sun, 19 Oct 2008 11:56:00 +0200

J'ai été invité par le salon exalead de JabberFR à venir discuter de Valiz et plus généralement du principe d'un moteur de recherche open-source. Cela s'est donc déroulé hier, samedi 18 octobre 2008 de 20h30 à 22h30. J'ai décidé d'en faire un compte-rendu ici ce qui permet de faire le point sur l'état du projet mais aussi d'informer les absents.

L'indexation et le contenu

Nous avons parlé de la cible de Valiz, le contenu accessible. Indexer uniquement des sites pleinement conformes aux recommandation sur l'accessibilité est illusoire, il y en a trop peu. Mieux vaut se concentrer sur des sites faisant des efforts d'accessibilité.

Un moteur modulaire

L'intérêt d'un moteur de recherche modulaire a été souligné. Ce lui assure son évolution, lui permet d'évoluer dynamiquement. Cela permet également d'interfacer beaucoup d'outils au travers d'API.

BOINC et le calcul distribué

Une des faiblesse de Valiz sera sa faible infrastructure hardware comme nos moyens seront forcément limités. Une idée avancée lors de cette discussion était de sous-traiter des calculs à une plate-forme de calcul distribué via BOINC par exemple. Une partie du travail pourrait ainsi être traité en-dehors des serveurs de Valiz. Il ne s'agirait évidemment pas de calcul en temps réel mais plutôt de traitements de l'index, d'analyse de contenu, etc...

Faire participer les universités

Une autre idée qui a été proposé est de soumettre Valiz, ou du moins certains modules aux universités qui ont les moyens de le faire avancer et de mettre des serveurs à disposition. C'est probablement le chemin le plus plausible pour que Valiz devienne réalité.

Le site de Valiz

Le blog

Plusieurs personnes ont critiqué le blog comme support de discussion pour les débats. Ce n'est pas un support adapté, il devrait plutôt être utilisé pour faire des annonces sur l'avancement du projet. Ce n'est pas faux.

La page d'accueil

Cette page n'est pas suffisamment compréhensible, elle prête à confusion. Surtout la partie en anglais qui est du pure massacre (issu de Google Translate), il faudrait au minimum que je la réécrive. Je pense plutôt la remplacer par une explication beaucoup plus concise et mettrait en avant le blog et le wiki.

Le wiki

Beaucoup étaient de l'avis que le wiki était la forme la plus adaptée au projet. Il y en avait déjà un en place, un Dokuwiki. Mais il semblerait qu'il y ait besoin de quelque chose de plus costaud pour notamment y intégrer les discussions. C'est pourquoi je vais remplacer le Dokuwiki par un Mediawiki très prochainement.

Structure et cadre du projet

J'ai profité de la discussion pour situer le cadre de Valiz. Il s'agit d'un projet bénévole entretenu par des passionnés. Valiz sera un des projets de l'association Texuma, une association à but non-lucratif dont l'objectif et de faciliter le développement de projets software ou touchant à internet.

Le budget et la publicité

Le thème de la publicité a été abordé également. Allons-nous intégrer de la publicité dans les résultats des recherches ? Non évidemment. Pourquoi ?
Proposer de la publicité sur une page souhaitant présenter du contenu accessible dans ses résultats implique que la publicité aboutisse également vers des sites accessibles. Et si le site visé par la publicité était accessible, il figurerait naturellement en bonne place dans les résultats et n'aurait donc pas à payer. Par ailleurs le but de Valiz n'est pas lucratif.
Évidemment ça ne rend pas les choses simples pour autant, un moteur de recherche a besoin d'importantes ressources hardware (serveurs, baies, bande passante, switchs, routeurs ,spares, etc...) ce qui est extrêmement onéreux. Évidemment une partie du budget pourrait être constituée de dons, mais il faudrait avoir une popularité similaire à Wikipedia pour que ce soit significatif.
Même si cela reste un point capital, je préfère ne pas trop m'y attarder tant que nous n'avons pas un cahier des charges concret et réaliste.

Et maintenant ?

Vous êtes plus que jamais invité à continuer de débattre. Valiz n'est pas mort et cherche à avoir un maximum de contributeurs pour discuter du cahier des charges. Il n'y a pas besoin de compétences particulières, être un utilisateur d'un moteur de recherche suffit amplement pour dire ce qui nous manque, comment on veut obtenir l'information, ce qui ne va pas avec les résultats, etc... Pour cela je vais mettre en place le wiki sous quelques jours.
Comme l'expérience était concluante, il n'est pas impossible que de nouvelles discussions de ce type aient lieu, que ce soit sur le salon d'exalead ou ailleurs. L'idéal à moyen terme serait de réunir les personnes intéressées sur un salon dédié permanent. Le log complet de la discussion

État du projet

Reivilo — Sun, 27 May 2007 14:22:00 +0200

Bonjour à tous,

Petit rappel

Cela fait déjà 140 jours qu'il n'y a plus eu de mise à jour sur ce blog. Il est temps de remettre le compteur à zéro.
Je rappelle le but de ce blog : débattre sur divers sujets ayant un lien avec la recherche accessible dans le but d'établir le cahier des charges d'un moteur de recherche simple, puissant, libre et gratuit. J'ai eu bon nombre de feedbacks (très peu par commentaire, c'est dommage) et le projet intéresse plusieurs personnes. Cependant pour obtenir une bonne base, il faut davantage d'intervenants dans les débats sur ce blog.
Je précise que tous les billets de ce blog peuvent recevoir des commentaires en tout temps, vous pouvez relancer un débat quand vous voulez.

Petite synthèse

Valiz est un projet gigantesque qui est très intéressant sous beaucoup d'aspects (que ce soit éthique, technique ou simplement en tant que défi). Cependant il y a des côtés qui risquent de pénaliser le projet :

Les acteurs du projet : L'idéal ce serait de former une bonne communauté remplie de talents motivés pour la bonne cause. Mais ce n'est pas évident à trouver.
Le financement : Tout le monde aimerait un moteur gratuit, sans publicité, etc... Mais l'infrastructure (on ne compte pas la main d'oeuvre qui est censée être bénévole) est extrêmement onéreuse pour un projet de cette ampleur. Si on peut se débrouiller pour monter de quoi tester l'algorithme à petite échelle, c'est une autre paire de manche pour permettre l'accès universel. Je ne suis pas persuadé qu'un tel projet puisse tourner exclusivement avec des dons.

Conclusion

Je suis toujours motivé si vous l'êtes aussi. Je ne peux me lancer seul dans un tel projet (j'ai des compétences dans pas mal de domaines, mais je ne peux pas tout faire ni être efficace dans tous les domaines et il est dur de réunir toutes les bonnes idées avec une seule personne).
Donc, je vous invite une nouvelle fois à :

Intervenir régulièrement sur ce blog
Faire connaitre cette initiative autour de vous, à en parler sur vos blogs, forums,...
Me contacter à soutien@valiz.org pour toutes propositions, message de soutien, si vous seriez intéresser à faire un don par la suite, si vous souhaitez être averti de tout évènement majeur, etc...

De mon côté, je disposerai de beaucoup de temps dès juillet. Donc si vous êtes motivé, nous pouvons faire avancer ensemble ce projet dès cet été.

Google libre sur les forums d'Ubuntu-fr

Quels langages pour Valiz ?

Reivilo — Sat, 27 Jan 2007 18:08:00 +0100

Valiz est un gros projet et comme en prime il est open-source, il doit être parfaitement lisible, récupérable par module ou encore facilement modifiable. Évidemment, il faut aussi qu'il soit portable, etc...
Bref, le choix des langages est primordial. Il faut aussi penser à coder léger et performant.
Donc il faut choisir les langages pour Valizbot, les divers algorithme, le site, la gestion des APIs, etc... le point commun sera les donnée, je pense aux bases du SGBDR PostgreSQL.
Je pensais faire valizbot principalement en python avec une gestion des regex par Perl (comme c'est son point fort). Peut-être Java pour les algorithme ?
Comment voyez-vous Valiz et avec quels langages ?

Logo et bannières pour Valiz

Reivilo — Fri, 26 Jan 2007 19:52:00 +0100

Grâce au travail d'Opatik, Valiz se dote d'une première série de logo et bannières, à user sans modération.
N'hésitez pas à suggérer des améliorations ou encore des slogans pour Valiz.

Merci pour votre soutien !

Lancement du projet Valiz

Reivilo — Sat, 06 Jan 2007 15:46:00 +0000

Bonjour à tous et merci pour votre curiosité,

Si vous êtes ici, c'est que vous vous intéressez au projet Valiz, je vais expliquer dans ce billet pourquoi j'ai lancé l'idée, pourquoi j'espère que Valiz voie le jour, comment sera organisé ce blog et ce que j'espère obtenir.
Vous connaissez tous le principe des moteurs de recherche : trouver rapidement la réponse à une question, des informations sur un sujet ou des sites de qualités traitant de quelque chose en particulier. Pour cela diverses sociétés proposent leurs moteurs de recherche, financés par la publicité intégrée aux résultats et l'une d'entre elle a quasiment le monopole.
Le problème, c'est qu'ils sont dépassés par l'ingéniosité des spammeurs car ils acceptent presque tout dans leurs index et leur algorithme accorde beaucoup d'importance aux critères externes des sites (liens pointant vers le site notamment).
Les objectif de Valiz sont les suivants :

Développer un algorithme qui se base uniquement sur la pertinence du contenu en oubliant tout repaire externe
Ne répertorier que les pages accessibles en se basant dans un premier temps sur la validation W3C.
Faire un moteur 100% open-source : tout le code sera distribué et tout le monde peut y contribuer, un peu comme le projet Nutch
À l'inverse de Nutch, le moteur sera un service public avec de nombreuses interface permettant d'exploiter ses résultats
Rester totalement libre et gratuit : aucune publicité commerciale, association à but non-lucratif
Suivre un développement totalement modulaire pour pouvoir facilement adapter les algorithme ou être intégré dans divers projets

Le but de Valiz n'est pas de concurrencer les moteurs actuels mais de proposer une alternative libre au monopole commercial actuel des moteurs de recherche et surtout des résultats accessibles à tous.

Si vous souhaitez soutenir Valiz, vous pouvez selon votre temps, compétence et motivation :

Suivre le développement en alimentant et argumentant votre vision lors des billets sur ce blog ou sur les forums
Nous aider en devenant rédacteur/traducteur (si vous avez une orthographe et grammaire correcte et que vous maitrisez au moins le français, le projet aura une documentation complète en français et anglais dans un premier temps puis ouvert à toutes les langues, donc si vous êtes bilingue, n'hésitez pas...)
Nous aider au développement, si vous avez des connaissances en (pas besoin d'avoir tout à la fois...) : xHTML, CSS, PHP 5/6, PostgreSQL, cluster, Java, Python, Bash, SOAP, xml, accessibilité,...
Nous soutenir financièrement, actuellement l'association n'est pas déclarée mais vous pouvez faire une promesse de don à don(@)valiz.org ou si vous êtes intéressé à fournir des serveurs, bande passante, baie,... on en aura grand besoin.
Nous soutenir moralement : un commentaire, un mail ça fait toujours énormément plaisir.

Ce blog contiendra des billets sur l'avancée du projet, sur les débats (choix), etc...