Der Shortcode [gallery] funktioniert meines Wissens nach nur mit Bildern, die auf deinem eigenen Blog gehostet werden und dann auch nur für die im jeweiligen Artikel hinzugefügten Bilder.
Näheres zu [gallery]
How do I create a picture gallery in my blog post? [screencast]
Image Settings - Titles, Descriptions, Captions, etc.
Not the Official WordPress.com Gallery FAQ
Was nun Flickr angeht, kann ich mangels Wissens nichts Näheres dazu sagen. Ich kann lediglich auf die FAQ Einträge in Sachen Flickr verweisen.
http://faq.wordpress.com/2006/04/13/posting-photos-from-flickr/
http://faq.wordpress.com/2006/12/24/using-the-flickr-widget/
Die von dir gewünschte Popup Lösung ist nicht sehr wahrscheinlich, da sie den Einsatz von Javascript voraussetzen würde, der hier auf WordPress.com sehr eingeschränkt ist. Sofern WordPress.com keinen entsprechenden Shortcode für einen Webdienst anbietet, der solch eine Funktionalität bietet, sehe ich für deine Popup Lösung leider schwarz.
Gruß, Martin(IQ)