Code javascript

donc je répète.. ce que tu cherches à faire c'est une fenêtre MODAL et non une POPUP.
La popup c'est l'ouverture d'une nouvelle fenêtre de ton navigateur (comme quand tu cliques sur un lien et que ça ouvre une nouvelle page de ton navigateur)
La fenêtre MODAL c'est l'affichage (en superposition de ta page actuelle) d'un élément dans ta page. Là tu peux le manipuler comme tu le souhaites, détecter les mouvements de la souris.. etc...
Il te faut donc utiliser une fenêtre MODAL.

si le JavaScript qu'il utilise sur Illustrator a une méthode window.open, il a peut-être aussi une méthode window.close fonctionnant comme celle-ci :

https://developer.mozilla.org/fr/docs/Web/API/Window/close

pouvant être fermée par le navigateur à condition de disposer de la référence à l'objet créé comme proposé dans le code d'exemple (avec déclaration d'une variable globale), et que la fenêtre ait été ouverte par un script et non pas par l'utilisateur

Code issu de MDN pour la fermeture d'une fenêtre ouverte avec window.open() :

<script type="text/javascript">
// Variable globale pour stocker une référence vers la fenêtre ouverte
var fenetreOuverte;

function ouvrirFenetre()
{
  fenetreOuverte = window.open('details.html');
}
function fermerFenetreOuverte()
{
  fenetreOuverte.close();
}
</script>

les fenêtres pop-up c'est moche et cela ne se fait plus, mais si c'est ce qu'il veut faire pour des raisons qui lui appartiennent, et que son implémentation de JavaScript gère cela ....

Dal

OK, je vois, dans ces conditions et vu la maquette fournie en lien par jm17f dans sa réponse ci-dessous, je suis d'accord avec toi :-)

Je pensais qu'il cherchait à scripter Illustrator avec un truc comme cela.

J'insiste.... mais... moi je ferai :
Ouverture d'une fenêtre modal
modal contenant une IFRAME pointant sur le site voulu
Au mouseout de l'iframe... fermetre de celle ci.