development/autotests/invertedTests

   1 # Regular expressions for tests that are known to fail
   2 #
   3 # Patterns will be automatically enclosed with '^' and '$'.
   4 # Matching tests get the label "inverted"
   5 # or (if also matching a pattern in "suspendedTests") "suspended".
   6 # They get also the test-property 'WILL_FAIL', i.e.
   7 # they are reported as failing if the export works without error.
   8 # https://cmake.org/cmake/help/v3.0/prop_test/WILL_FAIL.html
   9
  10 # ======================================================================
  11 Sublabel: todo
  12 # LyX bugs and problems with the sample documents that require attention
  13 # ======================================================================
  14 # * minor issues to explore and properly sort,
  15 # * easyfix issues,
  16 # * LyX bugs to report at trac (move pattern to section "lyxbugs" once done).
  17
  18 # Error in Japanese document if LyX-logo is preceded by foreign language
  19 export/export/latex/ja_wrong_auto_encoding_(dvi|pdf(|3)).*
  20
  21 # missing character: There is no ^^A in font [lmroman12-regular]
  22 # and all the line down to ^^Z and beyond...
  23 # XeTeX artifact? works with LuaTeX, explore:
  24 export/doc/(|de/|es/|fr/)EmbeddedObjects_pdf4_systemF
  25
  26 # iconv fails, if a nomenclature inset contains an uncodable character
  27 export/export/latex/iconv-error-nomenclature_pdf2
  28
  29 # `acmart` document class:
  30 # (see also lyxbugs below and ignoredTests)
  31 # issues with listsof, reported to the maintainer
  32 # https://www.mail-archive.com/search?l=mid&q=of84gj%24l6b%241%40blaine.gmane.org
  33 # LyX gives the following terminal message:
  34 #
  35 #    TextClass.cpp (1385): The layout does not provide a list command for
  36 #      the float `sidebar'. LyX will not be able to produce a float list.
  37 #
  38 # which makes "check_load" and "lyx2lyx" fail (lyx2lyx for < 2.3 is ignored).
  39 check_load/templates/Articles/Association_for_Computing_Machinery_.ACM.
  40 export/templates/Articles/Association_for_Computing_Machinery_.ACM._lyx23
  41
  42 # Failing LyX2LyX conversions for old versions:
  43 #
  44 # "beamer" lyx2lyx fails sometimes for versions < 2.1
  45 # Back-conversion results in some layouts without name ("\begin_layout \n")
  46 # which trigger a warning message leading to test failure.
  47 export/examples/(|de/|fr/|ja/)Presentations/Beamer_lyx(16|20)
  48 export/examples/Presentations/Beamer_.Complex._lyx(16|20)
  49 export/templates/(|de/|es/|fr/|ja/)Presentations/Beamer_lyx(16|20)
  50 #
  51 # modernCV fails for versions < 2.1
  52 # * reversed order of \end_layout and \end_inset results in corrupt LyX file
  53 # * reversed order of command arguments results in incompilable LaTeX
  54 export/examples/(|es/)Curricula_Vitae/Modern_CV_lyx(16|20)
  55 #
  56 # back-conversion fails for rotated float inset in a list
  57 export/export/lyx2lyx/lyx_2_3_test_lyx(16|20|21|22)
  58
  59
  60 # CJK
  61 # Korean legacy encoding fails (missing fonts)
  62 export/export/latex/CJK/ko_default_pdf2
  63
  64 # New problem with TL18: endless loop?
  65 #    ! TeX capacity exceeded, sorry [input stack +size=5000].
  66 export/export/latex/luainputenc-utf8_pdf5_texF
  67
  68 # nonstandard tests failing for unknown reason:
  69 export/templates/Obsolete/ACM_SIGGGRAPH.*_pdf5_(texF|systemF)
  70 export/templates/Articles/International_Union_of_Crystallography.*_pdf4_systemF
  71 export/templates/Articles/RJournal_(dvi3|pdf[45])_systemF
  72 export/templates/Articles/Kluwer_.*_systemF
  73
  74
  75 # ================================================
  76 Sublabel: lyxbugs
  77 # LyX bugs with a Trac number.
  78 # ================================================
  79
  80 #6197: „amssymb” with Polish babel name clash \lll ("<<<" vs. "ł")
  81 # Wrong output with pdflatex (-> unreliableTests),
  82 # missing character with XeTeX/LuaTeX and Babel (OK with Polyglossia)
  83 export/export/latex/6197-polish-amssymb_pdf._texF
  84
  85 #8035 work around a Polyglossia bug:
  86 # An error is reported if the document font does not announce support for a
  87 # script (Cyrillic, Greek, ...) which Polyglossia thinks is required to
  88 # typeset the document language. This is not required with LyX's check for
  89 # missing characters and results in many false positives:
  90 # a) with fonts including the required characters but
  91 #    not the tag tested by Polyglossia,
  92 # b) if the document language is "Serbian (Latin Script)",
  93 #    the Cyrillic script is not required yet Polyglossia tests for support.
  94 # The document "sr/Braille.lyx" is an example of case b).
  95 # (For some reason, the false positive error is not thrown with PDF (luatex).)
  96 export/examples/sr/Modules/Braille_(dvi3|pdf4)_systemF
  97
  98 #9681 Run-together words in Greek and Cyrillic documents
  99 # no-termination of replacement macros can lead to non-existing macros if
 100 # unencodable or force-converted Greek or Cyrillic letters are immediately
 101 # followed by Latin letters. See also unreliableTests.
 102 export/export/latex/textcyr-textgreek-test_pdf2
 103
 104 #9871 LyX sends invalid Unicode to iconv when converting to ASCII
 105 # most probably due to BabelPreamble code (language specific headings for
 106 # theorems, problems , ... are written in the language's default encoding
 107 # if they contain non-ASCII characters)
 108 # Error 84 returned from iconv when converting from UCS-4LE to ascii:
 109 # Invalid or incomplete multibyte or wide character
 110 export/doc/(es|fr)/Additional_pdf4_texF
 111 export/doc/(de|es|fr)/EmbeddedObjects_pdf4_texF
 112 export/doc/es/Customization_pdf4_texF
 113 # see also the discussion at:
 114 # https://www.mail-archive.com/search?l=mid&q=20170228190738.cgs3tl3ny2bxiegk%40steph
 115 export/examples/es/Modules/Linguistics_pdf4_texF
 116 export/export/latex/bug9871-slovak-ascii-preambleencoding_pdf2
 117
 118 #10355 xmllint detects failures
 119 export/doc/attic/eu_UserGuide_xhtml
 120 export/doc/(es|ja)/UserGuide_xhtml
 121 export/examples/External_Material/Spreadsheet_xhtml
 122 export/export/WrongDfnTagHandling_xhtml
 123
 124 #10371 Compilation error if longest label marker in labeling style
 125 # contains underscores etc.
 126 export/export/latex/LongestLabelWithUnderscore.*
 127
 128 #11455 "Unable to process argument!" with multiple 1.6.x roundtrips
 129 export/templates/Articles/IEEE_Transactions_Journal_lyx16
 130
 131 #10600 forced use of "ascii" inputenc with XeTeX
 132 # Non-ASCII in ERT, fails with inputenc==ASCII
 133 #   Could not find LaTeX command for character 'í' (code point 0xed)
 134 export/doc/(de|es)/Additional_pdf4_texF
 135 export/export/latex/xetex-inputenc-utf8_pdf4_texF
 136
 137 #11520 "listerrors" fails with pdflatex, lualatex, and xelatex
 138 # Example for lib/scripts/listerrors
 139 # Requires noweb. Seems to be restricted to plain "latex".
 140 # Find out why and whether the script could be improved.
 141 export/examples/Modules/Noweb_Listerrors_(pdf[245]).*
 142
 143 #11521 Font encoding "LAE" required with farsi.
 144 # The Farsi font encoding LAE must be added also to a custom font encoding
 145 # (similar to the Greek and Cyrillic font encodings LGR and T2A).
 146 export/export/latex/fa-OT1_pdf2
 147
 148 #11522 Support specification of complementing non-TeX fonts
 149 # More than one non-TeX font required for the character set in many documents
 150 # to prevent "missing character" errors with non-TeX fonts
 151 export/export/latex/luainputenc-utf8_pdf5_systemF
 152 export/export/latex/xetex-inputenc.*_pdf4_systemF
 153 #
 154 export/doc/(|de/|es/|fr/)Math.*systemF
 155 # minimal example for Math.lyx:
 156 export/export/latex/systemfonts-Math-missingchars.*systemF
 157 #
 158 # CJK-quotes examples (missing in most Latin-script fonts)
 159 export/doc/(|de/|es/|fr/)UserGuide_(dvi3|pdf4|pdf5)_systemF
 160 #
 161 #
 162 # Arabic (see also "texissues")
 163 # "! Extra \else" and missing glyph "no ␣ in font Scheherazade":
 164 # (the lyx2lyx test also tests compilation after round-trip)
 165 export/doc/ar/UserGuide_pdf4_systemF
 166 export/doc/ar/UserGuide_lyx(22|23)
 167 #
 168 # Juergen Spitzmueller: They do not have problems with xunicode, but without.
 169 # The reason is that the asterisk glyph is not included in the arabic font
 170 # (Scheherazade), but apparently, xunicode defines an extra asterisk
 171 # glyph (for a different purpose) that is being used here. Clearly the
 172 # problem should be fixed somewhere else.
 173 # Günter Milde: works in TeXLive17 (Debian/stretch)
 174 # export/doc/ar/Intro_pdf4_systemF
 175
 176
 177
 178
 179 # ==============================================================
 180 Sublabel: ert
 181 # Export failures due to "raw" LaTeX use in ERT or preamble code
 182 # ==============================================================
 183 #
 184 # "Wontfix" if demonstrating correct use and OK in the default output format.
 185
 186
 187 # ================================================
 188 Sublabel: texissues
 189 # Export fails due to LaTeX limitations,
 190 # ================================================
 191 #
 192 # e.g. non-ASCII in verbatim or listings, incompatible packages, ...
 193 # "Wontfix" if documents demonstrate correct use in the default output format.
 194
 195 # Non-ASCII char in verbatim environment.
 196 # Fails with ASCII (and hence also with XeTeX).
 197 export/doc/(|de/|es/|fr/)UserGuide_pdf4_texF
 198
 199 # Babel-Russian uses UTF-8 for auto-strings if it detects Xe/LuaTeX.
 200 # This fails unless the inputencoding is set to utf-8, too.
 201 export/doc/ru/(Intro|Tutorial)_(dvi3|pdf[45])_texF
 202 export/examples/ru/(example_lyxified|Welcome)_(dvi3|pdf[45])_texF
 203
 204 # Babel-Ukrainian uses UTF-8 if it detects Xe/LuaTeX (for "\date").
 205 # With 8-bit TeX fonts this results in:
 206 # * garbled output with PDF (LuaTeX)
 207 # * missing chars with XeTeX and DVI (LuaTeX)
 208 # New in TL18 -> cf. unreliableTests.varying_versions.
 209 # Workaround: suppressing auto-date or using date inset (new in LyX 2.4)
 210 #             in the source documents.
 211 export/export/latex/uk-babel-date-missing-chars-with-ascii_(pdf4|dvi3)_texF
 212 # the "dvi3" tests for these pass, but have wrong output.
 213 export/(doc|examples)/uk/(Intro|Welcome)_(pdf4)_texF
 214
 215 # Fails with XeTeX/LuaTeX
 216 # Reported upstream (https://www.mail-archive.com/lyx-devel@lists.lyx.org/msg184435.html)
 217 # Is there a new version fixing the problem?
 218 export/examples/Articles/Astronomy_._Astrophysics_(dvi3|pdf[45])_.*
 219 export/templates/Articles/Astronomy_._Astrophysics_(dvi3|pdf[45])_.*
 220
 221 # Gives the following error:
 222 # # ! Package hpstatement Error: H or P statement "H251"
 223 # # (hpstatement)                is not defined.
 224 # seems to be polyglossia-related (dvi3 worked with babel)
 225 export/examples/Modules/Hazard_and_Precautionary_Statements_.*_systemF
 226
 227 # These files use packages that are not compatible with the newest LuaTeX. We
 228 # could potentially fix these by loading the luatex85 package early in the
 229 # LyX-generated preamble, but it seems it's better to wait until the packages
 230 # fix the root issue themselves.
 231 # xy package:
 232 .*(|fr/)xy(pic|figure).*pdf5.*
 233
 234 # Problem with Check and Slovak Babel support.
 235 # (reported per mail to Petr Tesa\v{r}\'ik, 2016-09-06)
 236 # All exports using babel fail.
 237 # Without the Czech or Slovak text it compiles
 238 # No problem with inserted German (or other foreign language) text
 239 # No problem if the table is Slovak, too
 240 export/export/latex/TableErrorIfSlovakTextInserted_(dvi|pdf[23]?|.*_texF)
 241
 242 # Polyglossia + LuaTeX issue
 243 # Reported upstream here:
 244 # https://github.com/reutenauer/polyglossia/issues/163
 245 # These tests were broken at 3374b854
 246 # See discussion here:
 247 # https://www.mail-archive.com/search?l=mid&q=1478004223.2367.5.camel%40lyx.org
 248 export/doc/(sk|nb)/Intro_(dvi3|pdf5)_systemF
 249
 250 # fontspec errors with `slides` class:
 251 # LaTeX error: "kernel/command-already-defined"
 252 # Lines 2684 ... 2690 in fontspec-xetex.sty
 253 # Lines 2608 ... 2614 in fontspec-luatex.sty
 254 export/templates/Presentations/Slides_.*_systemF
 255
 256 # Beamer: conflicts with some combinations of packages/settings/languages
 257 export/templates/ja/Presentations/Beamer_(pdf2|pdf[45]).*
 258 export/templates/es/Presentations/Beamer_pdf4_texF
 259
 260 # Arabic
 261 #
 262 # Larger Arabic documents currently have non-TeX fonts and XeTeX
 263 # as default output. To fix pdfTeX export:
 264 # - set all non-Arab text parts to a different language (e.g. English)
 265 # - define alternatives for hyperref (e.g. with textorpdfstring)
 266 #   for correct handling of hyperref.
 267 # - solve problem with ToC:
 268 #      ! This can't happen (copying).
 269 #      \AtBegShi@Output ...ipout \box \AtBeginShipoutBox
 270 #                                                        \fi \fi
 271 #      l.62 \tableofcontents
 272 #                           {}
 273 #      I'm broken. Please show this to someone who can fix can fix
 274 #
 275 # see discussion at https://www.mail-archive.com/search?l=mid&q=20161114035123.s5lt4ib4x4obtptp%40steph
 276 #
 277 # Babel-Arabic loads "inputenc" which fails with Xe/LuaTeX:
 278 export/.*/ar/.*_texF
 279 # Polyglossia bug with LuaTeX and LTR languages (also Hebrew and Farsi):
 280 # Undefined control sequences "\luatexpardir" and "\luatextextdir".
 281 export/.*/ar/.*(dvi3|pdf5)_systemF
 282
 283 # Farsi
 284 # Polyglossia problem with LuaTeX (undefined command) (cf. Arabic)
 285 # https://github.com/reutenauer/polyglossia/commit/ccb0e9e2c6411170ad779b05ff5076f1193cc323
 286 export/examples/fa/Welcome_(dvi3|pdf5)_systemF
 287 # Missing characters (em space and "English" quotes) with XeTeX + system fonts.
 288 export/examples/fa/Welcome_pdf4_systemF
 289 # missing ASCII replacements (required by XeTeX + TeX fonts)
 290 export/examples/fa/Welcome_pdf4_texF
 291 # "invalid utf-8 sequence" with Babel-Farsi, LuaTeX, and TeX fonts.
 292 export/examples/fa/Welcome_(dvi3|pdf5)_texF
 293
 294 # Hebrew
 295 # does not currently work with LuaTeX (undefined command) (cf. Arabic)
 296 # terminal message: "Language hebrew not found in language.dat.lua"
 297 export/.*/he/.*(dvi3|pdf5)_systemF
 298 # Babel-Arabic loads "inputenc" which fails with Xe/LuaTeX
 299 # additionally: "! Right-to-Left Support Error: use TeX--XeT or e-TeX engine."
 300 # and (with XeTeX) missing ASCII replacements.
 301 export/.*/he/.*_texF
 302
 303 # CJKutf8 does not work with XeTeX and LuaTeX (and 8-bit fonts)
 304 export/examples/ja/Multilingual_Typesetting_.*_texF
 305 export/export/latex/CJK/zh_CN-toc_.*_texF
 306
 307 # See comment in unreliableTests
 308 export/export/latex/uk-babel-date-missing-chars-with-ascii_pdf5_texF
 309
 310
 311 # ================================================
 312 Sublabel: externalissues
 313 # Export fails due to non-LaTeX external tool,
 314 # ================================================
 315 #
 316 # e.g. a bug or missing feature in ps2pdf
 317
 318 # ps2pdf gives the following and exits with error:
 319 # Error: /invalidfileaccess in --file--
 320 # ps2pdf succeeds if the -dNOSAFER flag is used. For discussion, see:
 321 # https://www.mail-archive.com/search?l=mid&q=1506851183.3130.15.camel%40lyx.org
 322 export/examples/ja/Modules/LilyPond_Book_pdf
 323
 324 # ps2pdf gives the following error on updated TL18:
 325 #   Error: /undefined in d7Z
 326 # For previous TL versions, there is no error but the output is incorrect
 327 # (jibberish instead of Japanese characters).
 328 export/doc/ja/UserGuide_pdf
 329 # Simliar situation for this document, with the following error:
 330 #   Error: /undefined in =52+WsoG&
 331 export/doc/ja/Additional_pdf
 332
 333
 334
 335 # ======================================================================
 336 Sublabel: attic
 337 # Documents in the attic, kept for reference and format conversion test.
 338 # However, many problems here are "wontfix".
 339 # ======================================================================
 340
 341 # Fails because of missing .png graphic files.
 342 # They were replaced by .svgz, but, as this file is in the attic, we do not
 343 # convert to new lyx format. Plain latex and xetex create output (ignoring
 344 # missing files) while (pdf|lua)latex exits with != 0
 345 #export/doc/attic/eu_UserGuide_pdf[25].*
 346
 347 # Files in the attic with non-default output
 348 # (i.e. could be ERT, package incompatiblity, ...)
 349 export/doc/attic/it_(UserGuide_dvi3|UserGuide_pdf4)_systemF
 350 export/doc/attic/sk_UserGuide_pdf4_texF
 351 export/doc/attic/id_UserGuide_.*systemF