Java.lang.OutOfMemoryError: Java heap space

Normalement le stockage dans le Vector devrait supporter les 800000 éléments, mais ça dépend bien sûr de la taille en mémoire de chacune des données, si tu es de l'ordre du Ko ça risque de coincer selon les performances de ta machine, mais si c'est juste quelques dizaines d'octets (quelques entiers et quelques String par exemple) ça va passer.
Le problème c'est au moment de l'affichage, parce que chaque élément est associé à une case, et à des évènements (je clique dessus, je sélectionne la case, etc...) et que toutes ces données supplémentaires augmentent considérablement le poids en mémoire de chaque élément affiché, et c'est pour ça qu'il faut restreindre à un petit nombre d'éléments affichés (une centaine maxi), en plus ton application sera plus fluide que si elle doit synchroniser l'affichage des 800000 éléments.
Mais comme tu n'as pas du tout expliqué ce que tu faisais exactement, je peux difficilement t'orienter mieux. Mais par exemple il faut savoir que Vector est plus lourde à manipuler qu'une ArrayList qui fait la même chose (dans un contexte monothread) et qu'une LinkedList est encore plus légère en mémoire, même si du coup les temps d'accès des méthodes sont différents, tout dépend de ton traitement.

Si tu as une base de données, pourquoi est-ce que tu stockes tes résultats dans un vecteur ?
J'avoue que question BDD je suis un peu rouillé mais ne pourrais-tu pas directement stoker les résultats de ta recherche dans ta base de données pour ensuite aller chercher 100 par 100 à l'affichage (rajoute juste un bouton plus et un bouton moins pour te déplacer d'une page à la suivante) ou la consulter itérativement pour l'enregistrement du fichier CSV mais sans avoir à copier tes 800000 résultats dans ton programme Java...

Je ne sais pas trop comment fonctionne le ResultSet, savoir si il copie tous les résultats où si ça ne fait que pointer vers la base de données, mais dans ce cas oui c'est ce que je dis. À partir de ton resultSet n'en afficher qu'une petite partie à chaque fois (100 par exemple), et à la demande afficher les 100 suivants ou les 100 précédents. Et pour le fichier CSV prendre le resultSet dans son intégralité mais sans restocker tout dans un vector pour autant, directement de la base de donnée au CSV.