development/autotests/invertedTests

   1 # Regular expressions for tests that are known to fail
   2 #
   3 # Patterns will be automatically enclosed with '^' and '$'.
   4 # Matching tests get the label "inverted"
   5 # or (if also matching a pattern in "suspendedTests") "suspended".
   6 # They get also the test-property 'WILL_FAIL', i.e.
   7 # they are reported as failing if the export works without error.
   8 # https://cmake.org/cmake/help/v3.0/prop_test/WILL_FAIL.html
   9
  10 # ======================================================================
  11 Sublabel: todo
  12 # LyX bugs and problems with the sample documents that require attention
  13 # ======================================================================
  14 # * minor issues to explore and properly sort,
  15 # * easyfix issues,
  16 # * LyX bugs to report at trac (move pattern to section "lyxbugs" once done).
  17
  18 # missing glyphs: There is no ^^A in font [lmroman12-regular]
  19 # and all the line down to ^^Z and beyond...
  20 # XeTeX artifact? works with LuaTeX, explore:
  21 export/doc/(|de/|es/|fr/)EmbeddedObjects_pdf4_systemF
  22
  23 # `acmart` document class:
  24 # (see also lyxbugs below and ignoredTests)
  25 # issues with listsof, reported to the maintainer
  26 # https://www.mail-archive.com/search?l=mid&q=of84gj%24l6b%241%40blaine.gmane.org
  27 # LyX gives the following terminal message:
  28 #
  29 #    TextClass.cpp (1385): The layout does not provide a list command for
  30 #      the float `sidebar'. LyX will not be able to produce a float list.
  31 #
  32 # which makes "check_load" and "lyx2lyx" fail (lyx2lyx for < 2.3 is ignored).
  33 check_load/templates/Articles/Association_for_Computing_Machinery_.*
  34 export/templates/Articles/Association_for_Computing_Machinery_.*_lyx23
  35
  36 # Failing LyX2LyX conversions for old versions:
  37 #
  38 # "beamer" lyx2lyx fails sometimes for versions < 2.1
  39 # Back-conversion results in some layouts without name ("\begin_layout \n")
  40 # which trigger a warning message leading to test failure.
  41 export/examples/(|de/|fr/|ja/)Presentations/Beamer_lyx(16|20)
  42 export/examples/Presentations/Beamer_.*Complex.*_lyx(16|20)
  43 export/templates/(|de/|es/|fr/|ja/)Presentations/Beamer_lyx(16|20)
  44 #
  45 # modernCV fails for versions < 2.1
  46 # * reversed order of \end_layout and \end_inset results in corrupt LyX file
  47 # * reversed order of command arguments results in incompilable LaTeX
  48 export/examples/(|es/)Curricula_Vitae/Modern_CV_(lyx(16|20)|dvi|dvi3.*F|pdf|pdf3)
  49 export/examples/(|es/)Curricula_Vitae/Europe_CV_(dvi|dvi3.*F|pdf|pdf3)
  50 #
  51 # back-conversion fails for rotated float inset in a list
  52 export/export/lyx2lyx/lyx_2_3_test_lyx(16|20|21|22)
  53
  54 # New problem with TL18: endless loop?
  55 #    ! TeX capacity exceeded, sorry [input stack +size=5000].
  56 export/export/latex/luainputenc-utf8_pdf5_texF
  57
  58 # nonstandard tests failing for unknown reason:
  59 export/templates/Obsolete/ACM_SIGGGRAPH.*_pdf5_(texF|systemF)
  60 export/templates/Articles/International_Union_of_Crystallography.*_pdf4_systemF
  61 export/templates/Articles/R_Journal_(dvi3|pdf[45])_systemF
  62 #export/templates/Articles/Kluwer_.*_systemF
  63
  64 # Thai with CJK package requires the babel option "thaicjk" instead of "thai".
  65 # (see thaifont.txt in the CJK documentation for setup details).
  66 export/export/latex/unicodesymbols/031-thai_th_(euc-|gbk|jis|utf8-cjk).*
  67
  68 # Package clashes when Japanese documents are compiled with non-TeX fonts,
  69 #
  70 export/doc/ja/(Additional|LaTeXConfig|Math|UserGuide).*_systemF
  71 export/doc/ja/(Formula-numbering|Customization|EmbeddedObjects|Intro)_pdf4_systemF
  72
  73 # Test for command \pdfsave fails:
  74 # ! Package xypdf Error: pdfTeX version 1.40.0 or higher is needed for the xypdf
  75 export/examples/ja/Graphics_and_Insets/XY-Pic.*_systemF
  76 #
  77 # Document class js*.cls requires platex <-> Xe/LuaTeX,
  78 # fixed with "bxjs*.cls"
  79
  80
  81 # ================================================
  82 Sublabel: lyxbugs
  83 # LyX bugs with a Trac number.
  84 # ================================================
  85
  86 # Dedicated tests in export/latex/lyxbugs start with the ticket number
  87 # (move to export/latex/lyxbugs-resolved when the problem is fixed).
  88 # catchall:
  89 export/export/latex/lyxbugs/[0-9].*
  90
  91
  92 #8035 work around a Polyglossia bug:
  93 # An error is reported if the document font does not announce support for a
  94 # script (Cyrillic, Greek, ...) which Polyglossia thinks is required to
  95 # typeset the document language. This is not required with LyX's check for
  96 # missing glyphs and results in many false positives:
  97 # a) with fonts including the required characters but
  98 #    not the tag tested by Polyglossia,
  99 # b) if the document language is "Serbian (Latin Script)",
 100 #    the Cyrillic script is not required yet Polyglossia tests for support.
 101 # The document "sr/Braille.lyx" is an example of case b).
 102 # (For some reason, the false positive error is not thrown with PDF (luatex).)
 103 export/examples/sr/Modules/Braille_(dvi3|pdf4)_systemF
 104
 105 #10355 xmllint detects failures
 106 export/doc/attic/eu_UserGuide_xhtml
 107 export/doc/(es|ja)/UserGuide_xhtml
 108 export/examples/External_Material/Spreadsheet_xhtml
 109 export/export/WrongDfnTagHandling_xhtml
 110
 111 #11455 "Unable to process argument!" with multiple 1.6.x roundtrips
 112 export/templates/Articles/IEEE_Transactions_Journal_lyx16
 113
 114 #11520 "listerrors" fails with pdflatex, lualatex, and xelatex
 115 # Example for lib/scripts/listerrors
 116 # Requires noweb. Seems to be restricted to plain "latex".
 117 # Find out why and whether the script could be improved.
 118 export/examples/Modules/Noweb_Listerrors_(pdf[245]).*
 119
 120 #11522 Support specification of complementing non-TeX fonts
 121 #
 122 # More than one non-TeX font required for the character set in many documents
 123 # to prevent "missing glyph" errors with non-TeX fonts
 124 #
 125 #export/export/latex/inputenc-.*_systemF # problem remains but test now ignored
 126 export/doc/(|de/|es/|fr/)Math.*systemF
 127 # a minimal example for Math.lyx is in
 128 #export/export/latex/lyxbugs/11522-systemfonts-Math-missingchars.*systemF
 129 #
 130 # Farsi: missing glyphs (em space and "English" quotes)
 131 export/examples/fa/Welcome_pdf4_systemF
 132 #
 133 # CJK-quotes examples (missing in most Latin-script fonts)
 134 export/doc/(|de/|es/|fr/)UserGuide_(dvi3|pdf4|pdf5)_systemF
 135 #
 136 # Japanese
 137 export/examples/ja/Modules/Linguistics.*systemF
 138 #
 139 # Arabic (see also "texissues")
 140 # "! Extra \else" and missing glyph "no ␣ in font Scheherazade":
 141 # (the lyx2lyx test also tests compilation after round-trip)
 142 export/doc/ar/UserGuide_pdf4_systemF
 143 export/doc/ar/UserGuide_lyx(22|23)
 144
 145
 146 # ==============================================================
 147 Sublabel: ert
 148 # Export failures due to "raw" LaTeX use in ERT or preamble code
 149 # ==============================================================
 150 #
 151 # "Wontfix" if demonstrating correct use and OK in the default output format.
 152
 153
 154 # ================================================
 155 Sublabel: texissues
 156 # Export fails due to LaTeX limitations,
 157 # ================================================
 158 #
 159 # e.g. non-ASCII in verbatim or listings, incompatible packages, ...
 160 # "Wontfix" if documents demonstrate correct use in the default output format.
 161
 162 # Compilation error with Chech or Slovak text i a table cell.
 163 # All exports using babel fail (problem in Czech and Slovak Babel support,
 164 # reported per mail to Petr Tesa\v{r}\'ik, 2016-09-06)
 165 # Without the Czech or Slovak text it compiles.
 166 # No problem with inserted German (or other foreign language) text.
 167 # No problem if the complete table is Slovak, too.
 168 export/export/latex/languages/en-sk-cz-babel-table-error_(dvi|pdf[23]?|.*_texF)
 169
 170
 171 # Xe/LuaTeX
 172 ###########
 173
 174 # Babel-Russian uses UTF-8 for auto-strings if it detects Xe/LuaTeX.
 175 # This fails unless the inputencoding is set to utf-8, too.
 176 export/export/latex/languages/ru_auto-legacy-luatex.*_texF
 177
 178 # Babel-Ukrainian uses UTF-8 if it detects Xe/LuaTeX (for "\date").
 179 # With 8-bit TeX fonts this results in:
 180 # * garbled output with PDF (LuaTeX)
 181 # * missing glyphs with XeTeX and DVI (LuaTeX)
 182 # New in TL18 -> cf. unreliableTests.varying_versions.
 183 # Workaround: suppressing auto-date, setting inputenc to "utf8", or using
 184 #             date inset (new in LyX 2.4) in the source documents.
 185 export/export/latex/languages/uk-babel-date-missing-chars-with-ascii_(pdf4|dvi3)_texF
 186 # the "dvi3" tests for these pass, but have wrong output.
 187 export/doc/uk/Intro_pdf4_texF
 188 export/examples/uk/Welcome_pdf4_texF
 189
 190 # Babel with non-TeX fonts fails for some supported languages
 191 # Lithuanian: L7x font encoding also set with LuaTeX and non-TeX fonts
 192 # (error but output OK)
 193 export/export/latex/languages/supported-languages_babel_non-tex_(dvi3|pdf5)_systemF
 194
 195 # Babel-French fails with Xe/LuaTeX and TeX fonts
 196 #   LaTeX Error: Command \at already defined. (and a lot more)
 197 export/export/latex/languages/supported-languages_(dvi|pdf).*_texF
 198 export/export/latex/languages/supported-languages_babel_(dvi|pdf).*_texF
 199
 200 # Babel-Spanish fails sometimes with XeTeX and TeX fonts
 201 export/doc/es/(Math|UserGuide|EmbeddedObjects|Customization)_pdf4_texF
 202
 203 # Polyglossia + LuaTeX issue
 204 # Reported upstream here:
 205 # https://github.com/reutenauer/polyglossia/issues/163
 206 # These tests were broken at 3374b854
 207 # See discussion here:
 208 # https://www.mail-archive.com/search?l=mid&q=1478004223.2367.5.camel%40lyx.org
 209 export/doc/(sk|nb)/Intro_(dvi3|pdf5)_systemF
 210 # some Polyglossia languages work only with XeTeX and fail with LuaTeX:
 211 # * The font "NotoSansEthiopic" cannot be found.
 212 # * sanskrit: ! Undefined control sequence.
 213 #             l.53 \newXeTeXintercharclass
 214 # * RTL-languages: ! Undefined control sequence.
 215 #             \setLR ->\@RTLfalse \luatexpardir
 216 export/export/latex/languages/supported-languages_polyglossia_(dvi3|pdf5)_systemF
 217
 218 # Systemcall: 'lualatex "supported-languages.tex"' finished with exit code 1
 219 # but no error in log and PDF is fine
 220 export/export/latex/languages/supported-languages_luatex_(dvi3|pdf5)_systemF
 221
 222
 223 # Some packages fail with XeTeX/LuaTeX
 224 # Reported upstream (https://www.mail-archive.com/lyx-devel@lists.lyx.org/msg184435.html)
 225 # Is there a new version fixing the problem?
 226 export/examples/Articles/Astronomy_%26_Astrophysics_(dvi3|pdf[45])_.*
 227 export/templates/Articles/Astronomy_%26_Astrophysics_(dvi3|pdf[45])_.*
 228
 229 # Gives the following error:
 230 # # ! Package hpstatement Error: H or P statement "H251"
 231 # # (hpstatement)                is not defined.
 232 # seems to be polyglossia-related (dvi3 worked with babel)
 233 export/examples/Modules/Hazard_and_Precautionary_Statements_.*_systemF
 234
 235 # These files use packages that are not compatible with the newest LuaTeX. We
 236 # could potentially fix these by loading the luatex85 package early in the
 237 # LyX-generated preamble, but it seems it's better to wait until the packages
 238 # fix the root issue themselves.
 239 # xy package:
 240 export/examples/(|fr/)Graphics_and_Insets/XY-(Pic|Figure)_pdf5.*
 241
 242 # fontspec errors with `slides` class:
 243 # LaTeX error: "kernel/command-already-defined"
 244 # Lines 2684 ... 2690 in fontspec-xetex.sty
 245 # Lines 2608 ... 2614 in fontspec-luatex.sty
 246 export/templates/Presentations/Slides_.*_systemF
 247
 248 # expl3.sty: Compilation errors with XeTeX, TeX-fonts, inputenc utf8
 249 # (TL 17 works).
 250 export/export/latex/inputenc-xetex-utf8-expl3-bug_pdf4_texF
 251
 252 # Korean with LuaTeX:
 253 # Language korean not found in language.dat.lua
 254 export/examples/ko/Welcome_(dvi3|pdf5)_systemF
 255
 256 # Arabic
 257 #
 258 # Larger Arabic documents currently have non-TeX fonts and XeTeX
 259 # as default output (examples/ar/Welcome_pdf4_texF works).
 260 # To fix pdfTeX export:
 261 # - set all non-Arab text parts to a different language (e.g. English)
 262 # - define alternatives for hyperref (e.g. with textorpdfstring)
 263 #   for correct handling of hyperref.
 264 # - solve problem with ToC:
 265 #      ! This can't happen (copying).
 266 #      \AtBegShi@Output ...ipout \box \AtBeginShipoutBox
 267 #                                                        \fi \fi
 268 #      l.62 \tableofcontents
 269 #                           {}
 270 #      I'm broken. Please show this to someone who can fix can fix
 271 # see discussion at https://www.mail-archive.com/search?l=mid&q=20161114035123.s5lt4ib4x4obtptp%40steph
 272 #
 273 # Arab chars in hyperlink name fail and missing characters
 274 # 8-bit TeX exports are ignored (\output_format xetex).
 275 export/doc/ar/*._pdf4_texF
 276
 277 # Babel-Arabic loads "inputenc" which fails with LuaTeX
 278 export/.*/ar/.*_(dvi3|pdf5)_texF
 279 # no Arab charaters with luainputenc
 280 export/export/latex/languages/supported-languages_(dvi3|pdf5)_texF
 281 export/export/latex/languages/supported-languages_babel_auto-legacy_(dvi3|pdf5)_texF
 282
 283
 284 # Farsi
 285 # "invalid utf-8 sequence" with Babel-Farsi, LuaTeX, and TeX fonts.
 286 # (XeTeX works, if inputenc is set to "utf8")
 287 export/examples/fa/Welcome_(dvi3|pdf5)_texF
 288
 289 # Hebrew
 290 # babel-hebrew loads "rlbabel.def" which fails with LuaTeX + TeX fonts:
 291 # "! Right-to-Left Support Error: use TeX--XeT or e-TeX engine."
 292 # (XeTeX works, if inputenc is set to "utf8")
 293 export/.*/he/.*(dvi3|pdf5)_texF
 294 export/export/latex/languages/he-.*(dvi3|pdf5)_texF
 295 export/export/latex/languages/supported-languages_(dvi3|pdf5)_texF
 296 export/export/latex/languages/supported-languages_babel_(dvi3|pdf5)_texF
 297
 298 # Polyglossia bug with LuaTeX and LTR languages (Arab, Hebrew and Farsi):
 299 # Undefined control sequences "\luatexpardir" and "\luatextextdir".
 300 # https://github.com/reutenauer/polyglossia/commit/ccb0e9e2c6411170ad779b05ff5076f1193cc323
 301 export/.*/ar/.*(dvi3|pdf5)_systemF
 302 export/.*/fa/Welcome_(dvi3|pdf5)_systemF
 303 # terminal message: "Language hebrew not found in language.dat.lua"
 304 export/.*/he/.*(dvi3|pdf5)_systemF
 305 export/export/latex/languages/supported-languages_(dvi3|pdf5)_systemF
 306
 307 # Ukrainian
 308 # See comment in unreliableTests
 309 export/export/latex/languages/uk-babel-date-missing-chars-with-ascii_pdf5_texF
 310
 311
 312 # ================================================
 313 Sublabel: externalissues
 314 # Export fails due to non-LaTeX external tool,
 315 # ================================================
 316 #
 317 # e.g. a bug or missing feature in ps2pdf
 318
 319 # ps2pdf gives the following and exits with error:
 320 # Error: /invalidfileaccess in --file--
 321 # ps2pdf succeeds if the -dNOSAFER flag is used. For discussion, see:
 322 # https://www.mail-archive.com/search?l=mid&q=1506851183.3130.15.camel%40lyx.org
 323 export/examples/ja/Modules/LilyPond_Book_pdf
 324
 325
 326 # ======================================================================
 327 Sublabel: attic
 328 # Documents in the attic, kept for reference and format conversion test.
 329 # However, many problems here are "wontfix".
 330 # ======================================================================
 331
 332 # Fails because of missing .png graphic files.
 333 # They were replaced by .svgz, but, as this file is in the attic, we do not
 334 # convert to new lyx format. Plain latex and xetex create output (ignoring
 335 # missing files) while (pdf|lua)latex exits with != 0
 336 #export/doc/attic/eu_UserGuide_pdf[25].*
 337
 338 # Files in the attic with non-default output
 339 # (i.e. could be ERT, package incompatiblity, ...)
 340 export/doc/attic/it_(UserGuide_dvi3|UserGuide_pdf4)_systemF
 341 export/doc/attic/sk_UserGuide_pdf4_texF
 342 export/doc/attic/id_UserGuide_.*systemF