En fait
Les parties, parents non mariés de deux enfants nés en 2011 et 2013 (nationalités suisse et australienne), ont vécu en Australie-Occidentale où les enfants étaient installés à [U.] . En 2017, elles ont conclu des conventions ("Minute of consent orders" non signée, "Limited child support agreement") prévoyant l'autorité parentale conjointe et une garde alternée.
En septembre 2017, la mère a appris que sa mère ([E.] ), résidant en Suisse, souffrait d'une maladie en phase terminale. Les parties ont décidé de s'installer temporairement en Suisse. Le père n'a pas obtenu de visa de séjour et de travail.
Le 28 mars 2018, les parties, assistées de conseils australiens, ont signé un "Parenting plan" prévoyant notamment que la mère pouvait quitter l'Australie avec les enfants le 2 avril 2018 pour un séjour temporaire en Suisse, et que les enfants devaient retourner à [U.] au plus tard le 14 avril 2020, date à laquelle la garde conjointe reprendrait. Le plan précisait que tout séjour en Suisse au-delà de cette date constituerait un non-retour illicite et que les tribunaux de l'Australie-Occidentale étaient compétents.
La mère et les enfants sont arrivés en Suisse le 2 avril 2018 et ont été scolarisés dans le canton de Vaud. La mère a introduit une procédure de protection de l'enfant et d'entretien devant le Tribunal d'arrondissement de La Côte en septembre 2018. La mère de la recourante est décédée en octobre 2018.
Une première requête en retour du père, déposée en novembre 2018 auprès de l'OFJ puis en février 2019 devant la Chambre des curatelles du Tribunal cantonal vaudois, a été rejetée le 26 mars 2019. Le Tribunal fédéral, dans son arrêt 5A_301/2019 du 25 juin 2019, a confirmé ce rejet, considérant que le seul motif d'illicéité était l'échéance du 14 avril 2020.
Le 21 avril 2020, le père a formé une nouvelle requête en retour. Le curateur des enfants a été désigné, le SPJ a rendu un rapport le 25 mai 2020 selon lequel les enfants étaient bien intégrés en Suisse et s'opposaient au retour. La juge déléguée a rejeté la demande d'audition du père par vidéoconférence. Une audience a eu lieu le 4 juin 2020; la mère et le curateur s'en sont remis à justice quant à l'audition des enfants, qui n'a pas été ordonnée.
Par jugement du 25 juin 2020, la Chambre des curatelles a ordonné le retour des enfants en Australie et enjoint à la mère d'assurer ce retour d'ici au 15 août 2020, sous la menace de l'art. 292 CP.
La mère (5A_548/2020) et les enfants (5A_551/2020, représentés par le curateur) ont recouru au Tribunal fédéral. La mère demandait la non-ordonnance du retour et l'autorisation pour les enfants de rester en Suisse avec elle; les enfants demandaient à titre principal la suspension du retour jusqu'à une expertise pédopsychiatrique, et subsidiairement l'autorisation de rester en Suisse. Les procédures ont été jointes et l'ordre de retour suspendu.
Le Tribunal fédéral a déclaré le certificat médical du 2 juillet 2020 (pédopsychiatre) irrecevable car constituant un fait nouveau (art. 99 al. 1 LTF).
En droit
La décision ordonnant le retour d'enfants après un déplacement international est une décision finale en matière connexe au droit civil (art. 90, 72 al. 2 let. b ch. 1 LTF). La Chambre des curatelles a statué en instance cantonale unique selon l'art. 7 al. 1 LF-EEA, ce qui constitue une exception légale au double degré cantonal (art. 75 al. 2 let. a LTF). Les recours, formés en temps utile par des parties ayant qualité pour recourir, sont recevables. Le Tribunal fédéral ne revoit que les griefs motivés et les faits établis par l'autorité précédente (art. 42, 95, 97, 105 et 106 LTF); les allégations appellatoires sont irrecevables, et les nova sont exclus (art. 99 LTF).
Sur le droit de garde au sens de l'art. 3 CLaH80, le père était titulaire de l'autorité parentale conjointe selon le droit australien, incluant la décision sur le lieu de vie des enfants. Le "Parenting plan", dont la mère s'est prévalue pour justifier son départ d'Australie et son séjour en Suisse jusqu'au 14 avril 2020, déploie des effets juridiques; la mère ne peut en contester la force contraignante à défaut de ratification judiciaire. Le non-retour au-delà du 14 avril 2020 est donc illicite au sens des art. 3 et 5 CLaH80. Le grief relatif à l'absence d'attestation au sens de l'art. 15 CLaH80 est écarté, cette disposition étant potestative.
Sur l'exception de l'art. 13 al. 1 let. a CLaH80, le père n'a pas consenti au non-retour au-delà du 14 avril 2020. Quant à l'exercice effectif du droit de garde, il est présumé et le parent qui s'y oppose doit démontrer un abandon manifeste, ce que les preuves produites par la mère ne permettent pas d'établir.
Sur l'exception de l'art. 13 al. 1 let. b CLaH80, seul un risque grave de danger physique ou psychique, ou une situation intolérable, peut faire obstacle au retour, les exceptions devant être interprétées restrictivement (art. 5 LF-EEA). Les griefs liés à la compagne du père et à la perte de confiance des enfants envers…